在当今这个人工智能不断取得突破的时代，人工智能带来的风险也与日俱增。比如，当工业机器人和工人一起工作时，如何保证机器人不误伤工人？当街上的无人驾驶汽车越来越多时，如何保证无人驾驶汽车不被恐怖分子中的黑客入侵，变成杀人工具？当服务机器人或机器宠物掌握了主人的无数隐私时，如何保证这些隐私不被窃取，或者不被机器人的制造商非法利用？因此，很有必要将“良知”注入机器人“内心”，从技术底层保证所有的机器人从根本上是“善良”的。以下就是笔者为实现这一目标的几点初步思考，抛砖引玉，期待能引发读者更多的思考和行动。
从根本上说，政府应该立法，规定机器人（包括任何有行动能力的人工智能系统、自动驾驶汽车和无人机）必须强制内置“良知”程序，以保证机器人不伤害人类和社会。所有未内置“良知”程序的机器人，每一个个体都需在国家相关部门注册备案。机器人伤人或造成其他损失，制造商都应当负主要的法律责任。多个国家立法后，可以建立国际公约来进一步规范。
所谓“良知”程序，可以由许多条“善良”的“价值观”组成，这些价值观可以包括但不限于不伤害人类、不泄露主人隐私、遭遇黑客攻击时报警等。
应该用技术手段保证“良知”程序不可被篡改。从技术角度说，机器人出厂时，操作系统的核心部分和“良知”程序的核心部分应该被写入只读存储器（ROM），同时将只读存储器密封在不可被拆卸的地方，以保证永远不可被篡改。对需要不断升级的部分，可以考虑用区块链等技术保证更新的安全性。机器人和机器人的主人通过校验码等方式经常检查“良知”程序的正确性，如果发现异常，机器人在报告主人及警方后自动停机，并锁定开机功能。
例如，“不伤害人类”这一条“价值观”，可以通过以下几个功能来实现。
（1）机器人做任何“动作”前，自动引发硬件中断，强制启动“良知”程序，作相关安全性检查。
（2）“良知”程序检查“动作”涉及的环境中是否有人，如果有人，启动“动作”对人影响的评估，评估结果是“有伤害”或“不确定”时，立即停止将进行的“动作”，只有评估结果是“无害”时，才允许“动作”进行。
（3）如果“动作”执行后，仍出现伤害人类的结果，说明评估程序有严重缺陷。机器人应在报告主人、制造商及警方后自动停机，并锁定开机功能。制造商应立即启动对“良知”程序的检查，如有必要，需尽快停机并召回所有同一型号的机器人。
为了不增加机器人制造商的负担，“良知”程序，可以由政府资助的科研机构或大学研发，并且开放源代码，以接受公众的检查。
用“良知”来命名机器人中的道德程序，是受阳明心学“致良知”的启发，就用王阳明先生的4句教导来为人工智能的“善良”祈祷吧。无善无恶心之体，有善有恶意之动。知善知恶是良知，为善去恶是格物。
…………
人工智能大事年表
公元前年—公元前年，亚里士多德在著作《工具论》中提出逻辑学中最核心的三段论。
公元前约年—公元前约年，欧几里得在数学巨著《几何原本》中，以公理系统和演绎逻辑，构建了严谨而完整的几何学体系。
年左右，达·芬奇设计机械计算器。
年，笛卡儿在他的哲学著作《方法论》中，以附录的形式发表了《几何学》，其中包含了解析几何的核心原理。
年，帕斯卡建造可实现加减法的机械式计算器。
年，帕斯卡和费马在通信中讨论赌博问题引发概率论的创立。
—年，牛顿和莱布尼茨分别独立发明了微积分，奠定高等数学的基础。
年，莱布尼茨建造可以实现加减乘除和求根运算的计算器。
年，莱布尼茨发明二进制的表示和加法乘法规则。
年，牛顿发表《自然哲学的数学原理》，包括牛顿三定律和万有引力定律，奠定经典物理学的基础。
年，贝叶斯去世，普赖斯从他的遗作中整理发表了贝叶斯定理。
年，查尔斯·巴贝奇设计了一台蒸汽机驱动的机械式通用计算机——分析机，因工程管理和经费原因最终未能完成。年，伦敦科学博物馆的工程师最终将巴贝奇的蓝图变成了现实，证明巴贝奇的设计是可行的。
年，拜伦的女儿阿达·洛夫莱斯翻译了路易吉·费德里科·米纳布里的论文《查尔斯·巴贝奇发明的分析机概论》，在她增加的注记中，详细说明了使用打孔卡片程序计算伯努利数的方法，这被认为是世界上的第一个计算机程序。因此，阿达·洛夫莱斯也被认为是世界上第一个程序员。
年，乔治·布尔出版了经典著作《思维规律的研究》，系统地阐述了布尔代数。
年，阿瑟斯·凯莱（ArthurCayley）发表了论文《矩阵论的研究报告》，系统地阐述了关于矩阵的理论。凯莱和西尔维斯特（JamesJosephSylvester）共同创立的线性代数，是人工智能，尤其是深度学习的关键数学基础。
年，弗雷格出版了他的杰作《算术基础》，进一步扩大数理逻辑学的内容，创造了“量化”逻辑。
年，希尔伯特发表了题为《数学问题》的著名讲演，提出了新世纪数学家应当努力解决的23个数学问题。这些问题统称希尔伯特问题，被认为是20世纪数学的制高点，对这些问题的研究有力地推动了20世纪数学的发展，甚至对整个科学的发展都产生了深远的影响。
—年，罗素和他的老师怀特海一起出版了三卷本的《数学原理》。
年，哥德尔发表石破天惊的论文《〈数学原理〉及有关系统中的形式不可判定命题》，在论文中他证明了“哥德尔不完全性定理”，即数论的所有一致的公理化形式系统，都包含有不可判定的命题。
年，香农发表硕士论文《继电器与开关电路的符号分析》，论文中分析了电话交换电路和布尔代数之间的类似性，即把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来，并用“1”和“0”表示。香农用布尔代数分析并优化了开关电路，这就奠定了数字电路的理论基础。
年，邱奇提出λ演算系统，率先解决了希尔伯特的可判定性问题。
年，图灵发表了他的重要论文《论可计算数及其在判定问题上的应用》。在这篇论文中，图灵天才般地创造了一种假想的机器——“图灵机”，并基于此概念解决了著名的希尔伯特判定问题。“图灵机”后来还成为了电子计算机的理论基础。
年，科幻作家阿西莫夫提出了著名的机器人学三定律。
年，神经生理学家沃伦·麦卡洛克和逻辑学家沃尔特·皮茨联合发表了重要论文《神经活动中内在思想的逻辑演算》，他们模拟人类神经元细胞结构提出了MP模型，首次将“神经元”的概念引入计算领域，提出了第一个人工神经元模型，从此开启了神经网络的大门。
年，冯·诺伊曼完成《关于EDVAC的报告草案》，这份报告是计算机发展史上一个划时代的文献，它广泛而具体地介绍了制造电子计算机和程序设计的新思想。EDVAC方案中“以存储程序”为核心的设计思想后来被业界命名为“冯·诺伊曼体系结构”。
年，ENIAC，世界第一台通用电子计算机，在美国宾夕法尼亚大学宣告诞生，承担开发任务的“莫尔小组”由埃克特、莫奇利、戈尔斯坦、博克斯组成。ENIAC计算速度是每秒次加法或次乘法，是使用继电器运转的机电式计算机的倍、手工计算的20万倍。
年，冯·诺伊曼提出了关于自复制自动机系统的构想。年，冯·诺伊曼因癌症去世，年仅53岁。他的助手巴克斯根据他的讲稿和相关论文，编辑完成了《自复制自动机理论》一书，于年出版。
年，诺伯特·维纳（NorbertWiener）提出“控制论”理论，“控制论”后来发展演化为人工智能中的行为主义学派。
年，香农发表论文《通信的数学原理》，奠定了“信息论”的基础。
年，香农发表了论文《为计算机编程下国际象棋》，这篇文章是人工智能领域萌芽期的一篇杰作，其内容奠定了电脑弈棋机的基础。
年，图灵发表了题为《计算机与智能》的文章，在这篇文章中，图灵巧妙地引入了后人称为“图灵测试”的模拟游戏，图灵还提出，可以将小孩的好奇心赋予计算机，并通过“教育”让机器的智能进化。
年，明斯基和迪安·爱德蒙合作设计了SNARC，即随机神经网络模拟强化计算器。它是第一个人工神经网络，尽管它只是用个真空管模拟40个神经元的运行，但它仍然能够在不断地尝试过程中学会一些解决问题的方法。
年，克里克和沃森发现了DNA分子的双螺旋模型。生命体的DNA分子与自复制自动机中存储信息的“磁带”起到类似的作用，它们也为生命体的复制系统提供必要的信息。
年，人工智能元年，在著名的达特茅斯会议上，信息时代的伟大先知香农见证了“人工智能”学科的诞生，完成了与麦卡锡、明斯基、西蒙、纽厄尔等新一代人工智能学术领袖的传承。参加会议的科学家，还有普林斯顿大学的特伦查德·莫尔、来自IBM公司的纳撒尼尔·罗切斯特和亚瑟·塞缪尔、来自麻省理工学院的雷·所罗门诺夫和奥利弗·塞尔佛里奇。年仅29岁的麦卡锡是这次会议的最初发起者。
年，西蒙、纽厄尔以及约翰·肖一起，成功开发了世界上最早的启发式程序“逻辑理论家”。“逻辑理论家”证明了数学名著《数学原理》中的38个定理，受到了业界的高度评价。西蒙和纽厄尔双剑合璧，创建了人工智能的重要流派：符号派。符号派的哲学思路为“物理符号系统假说”，简单理解就是：智能是对符号的操作，最原始的符号对应于物理客体。西蒙和纽厄尔所在的卡内基梅隆大学成为人工智能的重镇。
年，麦卡锡和明斯基先后转到麻省理工学院工作，他们共同创建了麻省理工学院的人工智能项目，这个项目后来演化为麻省理工学院的人工智能实验室，这是世界上第一个人工智能实验室。
年，心理学家弗兰克·罗森布拉特教授提出了感知机模型，感知机是基于MP模型的单层神经网络，是首个可以根据样例数据来学习权重特征的模型。
年，逻辑学家王浩，在一台IBM机上，只用9分钟就证明了《数学原理》中一阶逻辑的全部定理，也成为机器证明领域的开创性人物。
年，世界上第一个工业机器人Unimate诞生。年，第一个Unimate机械臂被安装在通用汽车在新泽西的一个工厂中，Unimate项目的推动者是乔治·德沃尔和约瑟夫·恩格尔伯格。
年，麦卡锡基于λ演算系统发明了Lisp语言。
年，麦卡锡在斯坦福大学创办了人工智能实验室。
年，美国数学家拉特飞·扎德（LotfiZadeh）创立了模糊逻辑的概念。
年，为了纪念计算机科学的先驱、被称为“人工智能之父”的图灵，美国计算机协会设立了“图灵奖”，这是全世界计算机行业的最高荣誉，被誉为“计算机届诺贝尔奖”。
年，人机对话软件“Eliza”首次对外展示，这是一款模拟心理治疗专家的人工智能软件，由麻省理工学院的计算机科学家约瑟夫·魏泽堡和精神病学家肯尼斯·科尔比共同开发。
年，第一个通用的移动机器人“Shakey”，由美国斯坦福研究所开始研制，项目领导者是查理·罗森。
年，DENDRAL系统由斯坦福大学研制成功，这是第一个成功投入使用的专家系统，它的作用是分析质谱仪的光谱，帮助化学家判定物质的分子结构，研发团队的核心是人工智能科学家费根鲍姆和曾获诺贝尔奖的遗传学家莱德伯格。
年，明斯基获得图灵奖。
年，肯·汤普森用汇编语言完成了UNIX的第一个版本，这也许是人类历史上拿汇编语言完成的最伟大作品。
年，麦卡锡获得图灵奖。
年，法国艾克斯·马赛大学的阿兰·科尔默劳尔与菲利普·鲁塞尔等人发布了Prolog语言。
年，特里·维诺格拉德（TerryWinograd）在美国麻省理工学院建立了一个用自然语言指挥机器人动作的系统，即SHRDLU系统（积木世界）。该系统把句法分析、语义分析、逻辑推理结合起来，大大地增强了系统在语言分析方面的功能。
年，日本早稻田大学的加藤一郎教授研发出第一台用双脚走路的机器人WABOT-1。
年，丹尼斯·里奇为UNIX系统设计了C语言。
年，贝克夫妇（JamesBaker与JanetBaker）用隐马尔科夫模型进行语音识别研究，语音识别的错误率比之前的方法降低了2/3。
年，西蒙和纽厄尔共同获得图灵奖。
年，约翰·霍兰德出版《自然系统和人工系统中的适应》，霍兰德受“自复制自动机”理论的启发，提出了独具一格的遗传算法，并基于此建立了人工智能领域的遗传学派。
年，斯坦福大学开发了用于帮助医生诊断传染性血液病的MYCIN专家系统，MYCIN专家系统的成功标志着人工智能进入医疗系统这一重要的应用领域。
年，卢卡斯导演开始推出《星球大战》系列电影。
年，侯世达出版人工智能经典著作《哥德尔、埃舍尔、巴赫——集异璧之大成》。
年，日本宣布为期10年的“第五代计算机”计划，目标是研制运行Prolog语言的智能计算机，该计划最终没有实现最初的宏伟目标。
年，生物物理学家约翰·霍普菲尔德（JohnHopfield）提出了一种新颖的人工神经网络模型——Hopfield网络模型，引入了能量函数的概念，是一个非线性动力学系统。离散的Hopfield网络用于联想记忆，连续的Hopfield网络用于求解最优化问题。
年，丹尼斯·里奇和肯·汤普森因C语言和UNIX操作系统，共同获得了图灵奖。
年，道格拉斯·莱纳特开始启动大百科全书项目。
年，杰弗里·辛顿和大卫·鲁梅哈特、罗纳德·威廉姆斯在《自然》杂志上发表了重要论文《通过反向传播算法实现表征学习》，文章中提出的反向传播算法大幅度降低了训练神经网络所需要的时间。人工智能中的联结学派，主体思路是通过训练人工神经网络模拟人脑的智能，反向传播算法是联结学派的核心算法。
年，雷伊·雷蒂（RajReddy）主持完成Navlab自动驾驶车原型，这个项目在计算机视觉、机器人路径规划、自动控制、障碍识别等诸多方面有许多重大的技术突破，使智能机器人跃上了一个崭新的台阶。
年，朱迪·珀尔将贝叶斯定理引入人工智能领域，发明了贝叶斯网络，创立了人工智能中实现不确定性推理的贝叶斯学派。
年，吉多·范罗苏姆发明了Python语言。
年，费根鲍姆和雷伊·雷蒂因在人工智能领域的贡献共同获得图灵奖。
年，科琳娜·科尔特斯（CorinnaCortes）和弗拉基米尔·万普尼克（VladimirVapnik）首先提出支持向量机（SupportVectorMachine，SVM），这是机器学习中强有力的监督学习模型，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，可以分析数据，用于分类和回归分析。“支持向量机”是人工智能中类推学派的核心算法。
年，IBM“深蓝”下棋机以3.5∶2.5（2胜1负3平）战胜了当时的国际象棋世界冠军卡斯帕罗夫，震惊了整个世界。“深蓝”团队的核心是许峰雄、莫里·坎贝和乔·赫内。
年，拉里·佩奇和谢尔盖·布林共同创建谷歌公司，谷歌被公认为全球最强大的搜索引擎。
年，延恩·乐存设计了一个被称为LeNet-5的系统，一个7层的神经网络，这是第一个成功应用于数字识别问题的卷积神经网络。在国际通用的MNIST手写体数字识别数据集上，LeNet-5可以达到接近99.2%的正确率。
年，华裔学者姚期智因在计算理论方面的贡献获图灵奖。
年，为了帮助人类实现移民火星的梦想，伊隆·马斯克创立SpaceX公司。
年，依靠来自加拿大高级研究所的资金支持，深度学习的一代宗师辛顿教授创立了“神经计算和自适应感知”项目，简称NCAP项目。定期参加NCAP项目的延恩·乐存、约书亚·本吉奥和吴恩达，后来都在人工智能领域取得了非常突出的成果，这一团队打造了一批更高效的深度学习算法，比如年辛顿提出的深度信念网络，他们的杰出成果推动了深度学习成为人工智能领域的主流方向。
年，BostonDynamics公司推出四足机器狗“BigDog”。
年，苹果公司首席执行官史蒂夫·乔布斯发布第一代iPhone，手机行业进入“智能手机”时代。
年，斯坦福大学的李飞飞与普林斯顿大学的李凯合作发起了ImageNet计划，ImageNet是一个含有万张照片的数据库，涵盖了2种物品，对应于WordNet的2个同义词集，可以为深度学习算法提供海量的训练数据。
年，谷歌无人驾驶汽车车队开始在加州道路上试行。
年，朱迪·珀尔因发明贝叶斯网络获得图灵奖。
年，IBMWatson人工智能系统参加综艺节目危险边缘（Jeopardy）来测试它的能力，最终，Watson打败了人类选手中的最高奖金得主布拉德·鲁特尔和连胜纪录保持者肯·詹宁斯。
年，NVIDIA公司的GPU在“谷歌大脑”项目中展现了强大的并行运算能力，12颗NVIDIA公司的GPU可以提供相当于颗CPU的深度学习性能。
年，辛顿教授的学生埃里克斯·克里泽夫斯基和以利亚·苏斯科夫采用深度学习算法的AlexNet，赢得ImageNet图像分类大赛冠军。
年，微软高级副总裁理查德·拉希德在一个会议现场，演示了微软开发的从英语到汉语的同声传译系统。
年，谷歌首次在它的搜索页面中引入“知识图谱”，谷歌知识图谱包含了5亿多个实体，实体的事实和实体关系的信息有35亿多条。
年，杰弗里·辛顿获得有“加拿大诺贝尔奖”之称的基廉奖。
年，亚马逊推出搭载智能助手Alexa的智能音箱，命名为Echo。
年，谷歌发布深度学习开源工具TensorFlow，Tensor（张量）意味着N维数组，Flow（流）意味着数据流图的运算，由杰夫·迪恩带领的谷歌大脑团队开发。
年，马斯克投资成立了Neuralink公司，据媒体报道，Neuralink公司将致力于所谓“神经蕾丝”技术的开发，将微小的脑部电极植入人体，并希望未来有朝一日能够实现对人类思维的上传和下载。马斯克认为植入人脑芯片是人类未来实现与电脑的“共生”所必须经历的过程。
年，AlphaGo围棋软件挑战世界围棋冠军李世石的围棋人机大战五番棋在韩国首尔举行，AlphaGo以4比1的总比分取得了胜利。AlphaGo由谷歌旗下DeepMind公司开发，DeepMind公司创始人是戴密斯·哈萨比斯。AlphaGo的开发团队核心包括大卫·席尔瓦、黄士杰、克里斯·麦迪森、亚瑟·贵茨等人。
人工智能先驱者的学术谱系
本学术谱系的资料来源是数学谱系计划（MathematicsGenealogyProject，