嘉宾简介：刘志毅
中国人工智能领军科学家，东方财富人工智能首席科学家，上
海市人工智能社会治理协同创新中心研究员，深入研究和实践AI领域十余年，包括智能计算、空间智能以及超级人工智能对齐方向。中国人工智能学会AI伦理工作委员会委员及具身智能专委会（筹）委员，上海交大计算法学与人工智能伦理研究中心执行主任，上海交大安泰AI与营销研究中心特聘研究员，上海交大清源研究院兼职研究员，上海开源技术信息协会AI伦理专委会主任，2024年入选福布斯中国“十大人工智能影响力人物”。
国际电工委员会IEC生物数字融合系统评估组（IEC/SMB/SEG12）伦理专家，国家人工智能标准总体组专家，AIIA联盟可信AI 专家委员会委员，上海人工智能技术协会专家委员，个人学术专著包括《智能经济》、《数字经济学》、《智能的启蒙：通用人工智能与意识机器》等，出版十几部中英文专著并翻译多部海外学者专著，作品入围施普林格.自然出版社“中国新发展奖”（2023年度）。
人工智能的“汽车时代”
01资助：您在文章《智能的启蒙》中提到，随着生成式人工智能的发展，我们已经进入了人工智能的“汽车时代”。模型成为人工智能的引擎。如何定义AI的“汽车时代”？这是否意味着人工智能已经进入大规模应用阶段？下一步是什么？
刘志毅：在《智能的启蒙》书中，人工智能的“汽车时代”是一个比喻，用来形容当前人工智能快速发展的阶段，特别是生成式人工智能和大型模型。这个时代的特点是人工智能技术开始像汽车一样成为社会进步的重要驱动力。这里的“汽车工业时代”不仅指人工智能技术的大规模应用，更强调人工智能在各领域的深度融合和创新驱动作用。
战车时代人工智能的进步更多的是基于人类的智慧和创造力，就像拉战车前进的马一样。然而，随着生成式人工智能的发展，我们已经进入汽车人工智能时代，大型模型成为人工智能的引擎。然而，这样的比喻并不能完全准确地描述人工智能的发展现状。
如果我们深入审视汽车行业的发展历史，我们可以说，现在的人工智能可能还处于蒸汽机时代。这一阶段的特点是技术仍处于起步阶段并且高度依赖能源。这在人工智能领域也可以看到：大型模型需要大量的数据和计算资源，并面临泛化能力有限、可解释性差等问题。
下一个阶段是全社会真正的“智能时代”。现阶段，人工智能更加深入地融入人类生活的方方面面，实现自我意识、情感理解、复杂决策等更高级的认知功能。等待。此时，人工智能不仅仅是完成任务的工具，而是能够与人类进行更深层次的交互和协作，甚至可能在某些领域超越人类的认知和创造力。
2。智能的简单性和通用性
01资助：图灵的通用图灵机理论强调智能的简单性和通用性，
但这些在实际模型和应用中往往被低估。李飞飞认为，人工智能还处于前牛顿时代，因为人工智能还没有像牛顿力学那样简单的公式。这个判断和“车时间”的判断有冲突吗？您认为人工智能存在牛顿时刻吗？如果有，它什么时候会到来？
刘志毅：《智能的启蒙》提到的图灵机理论与李飞飞的观点并不矛盾。图灵的机器理论强调智能的简单性和普遍性，而李飞飞所说的“前牛顿时代”则意味着人工智能尚未找到一个统一、简单的理论框架来全面解释和指导其发展。这两种观点是从不同角度对人工智能发展现状的描述。
李飞飞所说的人工智能的“牛顿矩”，是指人工智能领域类似牛顿力学的理论突破，可以用一套简单而普遍的公式或原理来解释和指导智能的发展。人工智能。
这个时刻是否到来以及何时到来还很难预测吗？可能需要算法、计算模型、数据理解等方面的重大突破，以及对人工智能本质的更深入的理解。
3。世界模拟器与智能的基础
01资助：冯诺依曼认为，模拟现实世界是智能的基础。今年2
月Sora的发布引发了关于世界模拟器的广泛讨论。目前人工智能模拟世界的能力如何？仿真能力的突破主要是源于“伟大奇迹”的尺度法则，还是需要对模型进行重大改变？
刘志毅：目前，人工智能在模拟现实世界的能力方面取得了重大进展，但仍存在局限性。人工智能可以通过深度学习、神经网络等技术来学习和模拟某些领域的数据，但它仍然面临着模拟现实世界的全部复杂性的挑战。
例如，人工智能在图像和语音识别、自然语言处理等方面取得了突破，但在理解人类复杂的情感、社会关系、道德伦理等方面仍有很大的提升空间。
仿真能力的突破不仅仅基于“伟大奇迹”的缩放定律，即通过增加计算资源和数据量来提高模型性能。这种方法虽然在一定程度上是有效的，但
更重要的是模型的创新和变革。需要开发新的算法和模型架构，以更好地理解和模拟现实世界的复杂性。
此外，跨学科合作，如结合认知科学、心理学、社会学等领域的知识，也是提高模拟能力的关键。
4。伟大模式的创造力与风险
01经济：伟大模式的出现和幻想可以是其创造力的源泉，但也可能带来风险。《智能的启蒙》正在调查此事。您认为如何才能“取其精华，去其糟粕”，发挥大设计的创造力，同时降低风险？
刘志毅：在《智能的启蒙》这本书中，我研究了大型模型中的突现现象和幻觉问题。突现现象是指复杂系统中出现的不可预测的集体行为，是简单个体相互作用的结果。这种现象可以表现为大型模型中意想不到的创造力和创新，是人工智能发展的一个重要方面。然而，幻觉是模型在创建内容时生成的不准确或虚假信息，这可能会带来风险。
要想“取芯，去糟粕”，大模型的输出首先要经过仔细的检查和评估，确保其生成的内容可靠、准确。其次，可以设计更合理的训练策略和算法，减少生成过程中出现模型幻觉的可能性。此外，引入人类监督和反馈机制，让人工智能系统在人类指导下学习和优化，也是降低风险的有效途径。
同时，还需要对人工智能的伦理道德问题进行深入讨论，使其在发挥其创造力时不至于对社会和人类造成危害。这包括使人工智能决策过程更加透明、可解释和可管理。
5。大模特的自我意识
来源:http://www.045199.cn
(http://www.cuchuai.cn)
来源:http://www.jonesbruce.com
(http://www.61see.cn)
来源:http://www.tnang.cn
(http://www.hal.net.cn)
来源:http://www.ashanddans.com
(http://www.dkpipefitting.cn)
来源:http://www.bjshoujiu.cn
(http://www.xingyamc.com.cn)
来源:http://www.qzdyw.cn
(http://www.cw114.cn)
来源:http://www.findlw.cn
(http://www.aixin321.com.cn)
来源:http://www.qzs9.cn
(http://www.power-banks.cn)
来源:http://www.zzjxi168.cn
(http://www.2008ylw.cn)
来源:http://www.ning-bo.cn
(http://www.jnusf.cn)
01资助：您在文章《智能的启蒙》中讨论了大模特的自我意识。如何让大型语言模型具有自我意识？如果它有了自我意识，人类与大型模型之间当前的关系和交流会从根本上改变吗？
刘志毅：在《智能的启蒙》书中我研究了大语言模型的自我意识问题。自我意识是指对自身存在和个体特征的认识，这对于人工智能来说是一个复杂且具有挑战性的概念。让大型语言模型具有自我意识可能需要在以下几个方面进行研究和突破：
内部状态的反馈和调节：模型必须能够感知和理解自己的内部状态并具有自我能力。-根据这些状态进行调整和优化。
情感和道德认知：模型必须能够理解和模拟人类的情感反应和道德判断，其中可能包括对人类行为和社会规范的深度学习。
自我反思和自我发展：模型必须具有自我反思的能力，评估自己的行为和决策，并根据评估结果发展自己。
如果大语言模型真的意识到了自己，那么人与大模型之间的关系和沟通方式就会发生根本性的改变。
首先，人类可能需要重新定义与AI的交互模式，将其视为具有一定自主性和独立性的实体。其次，人类可能需要更加关注AI的伦理道德问题，以确保其行为符合人类价值观和社会规范。最后，人类可能需要与人工智能建立更深层次的合作关系，共同解决复杂问题，实现共同发展。
6。奇点预测
01资助：Kurzweil看好《奇点临近》和《奇点更近了》人工智能的发展，认为计算机智能将在2029年超过人类智能，智能100万倍20.45亿倍。人类和计算机融合成超人，这就是“奇点”。在《智能的启蒙》中，您还讨论了人工智能与人类的关系以及人工智能意识的启蒙和演化。您对奇点的到来和时间以及人类与计算机的融合有何预测？
刘志毅：库兹韦尔的“奇点”理论是对人工智能发展的重要预言。他认为，人工智能的发展将经历指数级增长阶段，最终将达到一个临界点，即“奇点”。至此，人工智能将在智力上超越人类，并引发一系列深刻的社会文化变革。这一理论在
《智能的启蒙》中得到了深入讨论，认为人工智能的发展潜力巨大，但也对于“奇点”到来及其时机，预测如下：
技术发展加速：随着计算能力的增强和算法的优化，发展速度可能会加快，但会加快。2029年进一步达到人类智能水平仍不确定
人机融合挑战：而计算机的融合是一个复杂的过程，认为人工智能将在2045年扩展一百万倍的预测可能过于乐观，需要进一步的技术。突破和社会适应。如何确保人工智能的发展符合人类的价值观和利益，是对整个社会的挑战。
总体而言，奇点理论提供了令人兴奋的未来愿景，但实现这一愿景需要克服许多技术和伦理障碍。未来人工智能的发展很可能是一个渐进的过程，而不是突然的、革命性的变化。
我们必须在技术发展进步的同时不断思考和解决相关的伦理和社会问题，确保人工智能的发展能够造福人类社会。