ChatGTP 给人类带来的革命性变化

普罗米修斯还是潘多拉？ChatGPT为人类带来的革命性变化——许纪霖（华东师范特聘教授、历史系博士生导师）
一、人类历史上第四次里程碑式科技革命
新的时代来临，一种是玩ChatGPT的，另一种是被ChatGPT玩的。
作为人文学者跨界、狐狸型学人→家国天下情怀与时代同步→在高科技时代每个人的命运与时代变化密切关联→我们正面临一场改变每个人未来的革命
人工智能是人类历史上第四次里程碑式的科技革命:分别是工业革命（蒸汽时代）、电气革命（电气时代）、信息技术革命（信息时代）、人工智能革命（智能时代）。
社会上主要的问题与争论:
1.长期使用GPT，会改变人的思维模式吗？
2.如何理解人工智能，它将是一种新人类吗？
3.它强大的自我学习能力和逻辑演绎能力会超越人类的思维，最终统治人类吗？
4.AI会有情感与意志吗？它应该发展出情感与意志吗？
5.AI的发展，究竟意味着人类的福音，还是灾难？对于人工智能，是否要预设伦理与宗教的界限？
本次课程的解决什么问题？
1.基于计算性的GPT，拥有超人类的逻辑，它有创造性的思考能力吗？
2.AI对教育模式和思维模式的冲击:展望与忧虑
3.何为自我的难题:新人类的诞生？
4.人工智能给人类带来的是福还是祸？要设置法律、伦理和宗教的防护栏吗？
5.核心内容:GPT的诞生，将给人类带来什么样的革命性变化？
二、AI的iphone时刻已经来临
ChatGPT是通用人工智能发展的奇点，强人工智能即将到来的重要拐点。它的出现，标志着一场超越互联网的产业革命的到来。
ChatGPT4是超级人工智能的雏形
ChatGPT4是一种能够处理图像与文本，输入并生成文本输出的大型多模态模型，它强调是输入与输出，是一个包含输入与输出的开放体系，特别是“视觉输入”。
GPT5即将诞生，能够识别视频，抓取图像
GPT+插件=一个全新的操作系统
三、AI有创造性思考吗？
GPT3.5:一流的逻辑、二流的内容、三流的文采
逻辑性强，内容需要强大的数据库的覆盖面和真实准确性。积累了大量的数据资料，并经过反复的预训练，比起全人类积累的海量的数据，依然是沧海一粟。
非英语文献有局限性，错误百出。
微软推出的试用版新必应，用户体验比较好，它是搜索引擎，又采纳了GPT4的架构，其强大的全网全语种搜索能力，使其信息的拥有量和准确性超过GPT3.5。
推荐New Bing，有对话的能力
善于模仿，文字风格形同答卷，非常规范，符合标准，但缺乏个性和文采，基本陈词滥调，了无新意。
在意境和文字风格上，远没有人的创新能力，缺乏生活的实践的感受和个性的情感，不能创作出具有独特韵味的语言风格。
看文作画所画的仕女，都是同种风格的标准美女。
知情意完备。与GPT形成良性互动关系。
生活实践与心灵实践的知识。
人的认知，（卡尔·波普尔——英国哲学家）
“三个世界”理论:
1.“第一世界”是人的五官能够感知的现实的物理世界。
2.“第二世界”是人的心理世界，包括思想、意识、情感和主观体验。这个世界是主观的，离不开作为主体的人的生活实践，唯有作为人才能直接体验。
3.“第三世界”是抽象世界，包括知识、语言、逻辑等各种符号系统，这个系统独立于作为主体的人的主观世界，具有另一种抽象的客观性，可以为人类共同使用和理解。
“默会性知识”（迈克尔·波兰尼——化学家和哲学家）:
1.“默会性知识”属于波普尔所说的第二世界，是指那些通过人的经验、实践和观察而习得的知识，而且难以明确表达、难以形式化并传授给别人的知识。
2.非常个人化，基于个人的直觉、悟性和信念，比如鉴赏、品味、技巧等等，具有理解力、领悟力和想象力，在日常工作中自然而然地被运用，这种具有很强个人实践性的知识，只会意会不可言传，很难通过书本或者其他方式的来获取。
学霸PK智慧:
1.仅仅凭“第三世界”所库存的已有的抽象知识，只能做做1-10的知识抓取、提炼、概括工作，绝对实现不了0-1的创新突破。
2.AI拥有比人类更聪明的学习能力，但不会像人类那样有智慧，智慧比聪明更高一个层次。
3.AI就是一个超级的大学霸，具有逻辑的计算理性，但缺乏高度依赖生活实践的直觉、悟性和想象力。
谷歌的拉姆达和微软的必应都表现出了情感和意志。
人的肉身至关重要:
1.AI基于逻辑的计算理性，其意志的决断能力比自然人更强。
2.情感与悟性一样，不能凭逻辑推演，而是活活生生的肉身感受。
3.一个完整的人，灵与肉须臾不可分离，没有肉身的灵魂，与没有灵魂的肉身同样可悲。
四、AI冲击下，教育培养的方向是什么？
评价标准改变了，同一水平面，你能否提供超出标准答案的能力
两个情景:第一，依赖GPT，标准化答案的答案，还有胡编乱造，不会是开放性答案，是批判性思考，不是标准化的答案，一旦主体高度依赖客体，那么客体就会主宰主体。
第二，要成就一场苏格拉底式的对话，用户的批判性思考能力，不迷信GPT的标准答案，不断深挖GPT的问题底蕴和逻辑破绽，通过自身的主体性反思，步步紧逼，提出真正的问题，逼迫GPT发挥出最大的知识能量。提出更好的问题，才是最大的突破。
知识需要全面，不是建立于核心知识，而是建立背景知识基础之上的。无用之学。
五、被AI改变的自我，如何安身立命
操控的焦虑:
1.GPT传授的不仅是一套客观中立的科学知识，在其貌似客观中立的表象背后，可以悄悄灌注一套意识形态或伦理道德价值观。
2.技术永远都是中性的，其价值偏向向取决于那只看不见的手，那个操纵了程序和算法的程序的价值偏好。
3.AI技术绝对不是价值中立的，其可以被各种不同的幕后之手操控，操控得不动声色，遮蔽其答案中的意识形态偏见。
“如果人工智能能最终确实在很多领域超越了人类的智能，那么智能对人类的重要性也就会降低，而意识将变得更加重要。理解两者之间的区别至关重要。智能是解决问题的能力，意识是高受到诸如痛苦、快乐、爱和愤怒等情感的能力”——《时间简史》的作者尤瓦尔·赫拉利
未来的教育不仅仅涉及理性教育，还有情感教育。
心灵是肉身与精神结合的情感体验:
1.宋明理学将“性”与“心”区分人“性”是相通的、普遍的、统一的，人“心”是个体的、特殊的、多样的。
2.个人的有限性与不可复制性，激发了各种人性的各种激情与感受:死亡、痛苦、爱、同情、怜悯。
3.“正是我们对痛苦和苦难的认识使我们能够采取适当的防护措施，防止最糟糕的情景发生。我们将必须教会人工智能如何预防苦难，因为它对苦难一无所知”——尤瓦尔·赫拉利
AI无法替代的:
特修斯之船的悖论，什么是自我、大脑、心灵、肉身，最神秘的心灵，安身立命。都与心灵有关。
六、人可以成为自身的造物主吗？
马斯克:“人类作为碳基生物存在的目的，是为了激活像人工智能这样的硅基生物。”
碳基生物是指地球上大多数生命形式，其生命过程和化学反应都是基于碳化合物进行的。碳基生物以碳水化合物、脂类、蛋白质和核酸为主要组成部分。碳是生命所需的重要元素。
硅基生物是指假想上的生命形式，其生命过程和化学反应是基于硅化合物进行的。尽管硅在地球上非常常见，但是它并没有像碳那样广泛参与生物化学反应，因此还没有发现任何硅基生命形式。
周鸿祎——自我意识（悲观）
AI缺乏肉身。
“人只不过是一根苇草，是自然界最脆弱的东西，但他是一根能思想的苇草。
人拥有脆弱与思想的双重本性，人才成为其人。
人工智能可以模拟人思考，甚至比人更会思考，但它无法脆弱，脆弱与肉身的各种有限性有关:病痛、死亡、恐惧、虚荣、妒忌。”——布莱兹·帕斯卡（法国数学家、物理学家、哲学家、散文家）
人是万物之灵，每个人的有限的，投射到无限的完美之物。
森昌弘:恐怖谷理论
基因+脑机并口+人工智能=新人类
“AI可以迅速吃掉整个人类文化—我们几千年来产生的一切—消化它，并开始涌出大量的新文化艺术品。不仅仅是学校作文，还有政治演说、意识形态宣言、新邪教的圣书。到2028年，美国总统竞选可能不再由人类主持。
语言是人类文化的操作系统。从语言中产生了神话和法律，众神和金钱，艺术和科学，友谊和国家，以及计算机代码。人工智能对语言的掌握，意味着它现在可以入侵并操纵文明的操作系统”——尤瓦尔·赫拉利
哲学上该不该的问题
尤尔根·哈贝马斯（德国当代最重要的哲学家、社会学家）
论基因复制:这是一个宗教的问题，每个人的诞生和个性都是偶然的，这种偶然性既可以从宗教意义上，也可以从后形而上学意义上来加以理解。尽管如此，若我们要施行的是一种负责任的行为，始终都有一个本质的条件:没有人可以随意支配其他的人，并严格控制别人的行为，致使处于依附地位的人失去了本质的自由。
人工智能也需要某种禁忌，不仅是法律和伦理的理由，同样基于哲学和宗教的理由:人不能成为自身的造物主。
好奇心害死猫
有些无知之幕，是不容揭开的，无论是哲学还是宗教的理由，都提示我们要对自然生命和无限之物心怀敬畏之心。
保护生命生态。
科学的发展，必须受到更高的人文价值限制
目前唯一的限制，是能源。但假如超导和核聚变技术发生应用性突破。
斯坦福大学训练语言模型，用52K数据、只花600美金，就能达到GPT3.5水准
欧洲刑警组织的警告
未来是否会出现AI恐怖主义？
“现在我们已经达到这样一个阶段:人工智能已经足够先进，可以创造自己的文字和图像。如果情况没有变化，那么我们文化中的大部分文字、图像、旋转甚至工具都将由人工智能制作的。我们必须让这个过程变慢，让整个社会适应这个情况，并制定出一套道德规则。否则我们的文明就有被摧毁风险。”
——尤瓦尔·赫拉利
文明的底线:人是主体，整体的人类利益和个人的生命、自由和尊严是至高无上的。人权法则，AI的发展还是有天花板的，不能自主的发展，最后成为人类的主人。
七、人应该如何与AI相处
人工智能系统与生命体的融合，需要开展跨学科、协同合作的研究，同时也需要伦理和法律的规范，才能确保人工智能系统的安全和稳健性发展。法律、伦理、宗教和哲学的笼子。