一.起源
说到人工智能的历史，所有的书都会提到1956年的达特茅斯会议。在这次大会上，人工智能的鼻祖约翰·麦卡锡是发起者，明斯基也积极参与其中，包括香农本人，他因为提出信息论而在我们的教科书中非常有名。
麦卡锡和明斯基曾在贝尔实验室为香农工作。当时他们研究的核心是图灵机，被视为智能活动的理论基础。
后来麦卡锡去ibm工作，认识了研究神经网络的罗切斯特，并得到洛克菲勒基金会的资助。他决定第二年在达特茅斯举办一个关于人工智能的夏季研讨会，这就是人工智能这个名字的由来。
从1955年到1965年，人工智能进入快速发展期。在机器学习领域，a"跳棋程序和出现了，1959年人工智能打败人类的事件，打败了当时设计他的设计师塞缪尔，1962年打败了州跳棋冠军。
在模式识别领域，oliverselfridge于1956年开发了第一个字符识别程序，并于1963年发明了符号整合程序saint。1967年，圣之罪的升级版达到了专家级。
同时，美国也投入了2000万美元作为机器翻译的研究经费。参与达特茅斯的专家们纷纷发表评论。不出十年，计算机将成为世界象棋冠军，可以证明数学定理和谱写优美的音乐，并能在2000年超越人类。
二、第一个寒冷的冬天
然而，1965年人工智能迎来小后，质疑的声音也随之而来。塞缪尔设计的跳棋程序停留在击败周的冠军。因为机器翻译领域一直无法突破nlp，1966年，美国发表了一份名为"语言与机器，完全否定了机器翻译的可行性。
1969年，创始人之一明斯基表示，第一代神经网络(感知器)无法学习任何问题，美国和美国自然基金会大幅削减了人工智能领域的研究经费。上世纪70年代，人工智能经历了近10年的寒冬期。
第三，第二次和寒冬
直到20世纪80年代，人工智能才进入第二次发展。卡内基梅隆大学为日本dec公司设计的xcon专家规则系统(专注于解决某个有限领域的问题，有2500条规则专门用于选择电脑配件，从而避免了常识性问题)每年可以为公司节省数千万美元。
同期，日本拨款8.5亿美元支持人工智能领域的科学研究。主要目标包括能够与人交流、翻译语言、理解图像和像人一样进行推理的机器。
但是后来发现专家系统不是通用的，没有随着概率论和神经网络的融合，它不具备自学习能力，维护专家系统的规则越来越复杂，日本制定的目标没有实现。人工智能研究领域再次遭遇资金困境，人工智能发展进入第二个冬天。
第四，第一次计算能力和算法爆发
20世纪90年代，计算机的计算能力表现在摩尔美国的法律不断被打破。每18-24个月，英特尔s处理器可以翻倍，同样大小的集成电路密度可以翻倍，同一台计算机的处理能力也可以翻倍。
1989年，还在贝尔实验室的杨丽坤通过cnn实现了人工智能对手写编码数字图像的识别。
1992年，当时还在苹果工作的李开复设计了casp《learningofmultiplelayersofrepresentation》为当代神经网络奠定基础的全新架构。
2007年也在斯坦福任教的女科学家李菲菲教授发起了imag《新一代人工智能发展规划》明确了新一代人工智能发展的战略目标:到2020年，人工智能整体技术和应用与世界同步美国先进水平，人工智能产业将成为新的重要经济增长点，人工智能技术的应用将成为提高生活水平的新途径。;的生计。
到2025年，人工智能基础理论将实现重大突破，部分技术和应用将走向世界的领先水平。人工智能将成为发展的主要驱动力。;产业升级和经济转型，智能社会建设将取得积极进展；到2030年，人工智能的理论和技术其应用已达到世界领先水平，成为世界美国主要的人工智能创新中心。
高斯-牛顿迭代法是一种在非线性回归模型中寻找回归参数并进行最小二乘的迭代方法。该方法利用泰勒级数展开近似代替非线性回归模型，然后通过多次迭代对回归系数进行多次修正，使回归系数不断逼近非线性回归模型的最优回归系数，最后使原模型的残差平方和最小。
直观的思路是先选取一个参数向量的参数值β。如果函数ft(xt，β)在β0附近有连续的二阶偏导数，则在β0的邻域内可近似视为线性，因此可用线性最小二乘法近似求解。
.jpg)
