机器人三大原则(机器人三大原则是谁提出的)

[面试]

文学博士，周志强，南开大学教授、博士生导师；南开大学中华优秀文化遗产与当代文化建设研究院副院长(原南开大学城市文化学院)，中文系副主任，东方审美文化研究中心主任，南开大学语文教育研究中心主任。

算法对欲望的规划往往坚持稀缺。

阅读+:最近流行一大堆佛元、病元、宝贝元、学元、学元等所谓的“元文化”，其实就是某个算法创造出来的。你把这种“人的体验(快感)可以借助算法一步步实现”的现象称为“快感错位”。为什么这么说？

周志强:“快乐错位”是指一种文化现象所提供的表面意义和实现的实际意义之间存在差异。就像苹果手机给有钱人带来的快感，远不如低收入人群因为拥有这部手机而产生的“成功幻觉”带来的快感。所以越来越多的文化公司瞄准的不是“文化”，而是精准计算人们的消费欲望。比如一部电视剧，本来是为了审美和社会内涵的生产，但制作方通过计算明星流量来确定作品的价值。剧本还没写出来，投资方就已经抢着投资了，这种奇怪的现象也就出现了。

“元文化”的泛滥也是如此。量身定制的“宁静”和精确计算的“悠闲”，恰恰是快感错位的后果。“欲望是被精心计算的”，同时，“把欲望固定成精准的流动”是双向的工作:欲望不仅是被计划的，也是被固定的。

阅读+:“最美的汉堡存在于报纸，最好的生活存在于算法”。你把算法社会的逻辑叫做“抽象压抑”。为什么会有这样的内在矛盾？

周志强:欲望一旦被流量算法管理，它本身就变成了“高高在上，似乎触手可及”的东西。但是，欲望不能真正得到满足，否则利润的画面就会被切断。所以流量算法对欲望的规划不是以满足为目的，而是坚持稀缺。人们想要的越多，得到的越少；生产的欲望越精致，满足的方式就越粗糙。有“抽象压抑”:出于某种原因，我总是想要的比我能得到的多；不知道为什么，我总是处于莫名的焦虑中。

听歌的人不再是带着耳塞静静的听歌，而是要注重设备的保真度或者现场歌手的激情，甚至要认清每个声音背后的细微变化，或者感受现场歌手低音的指法差异；吃的时候品尝每一片叶子的味道或者每一口酒的年份；电子游戏表现的是生活的悲喜，象征性的存在比现实生活更让人肝肠寸断或固执。这种欲望的客观化被巧妙地提升了。想象中的男朋友帅气撒娇，婚礼上应该有兰花盛开，鸟儿歌唱。电视上的高端社区，广告上的优雅生活，歌唱上的辉煌成就，橱窗里的丰富人生……在这种高标准的欲望对象中，人变得非常渺小和弱小，卑微和无力。

欲望的对象化导致的压抑是抽象的。没有特定的对象成为压抑人生活的东西，却总觉得自己不如别人；找不到抑郁症的真正原因，却又走不出焦虑。如果一个社会总是大量产生诱人的欲望，总是用伟大、浪漫、美好来构筑人们的生活动力，那么每个人都很容易陷入“抽象压抑”。

“百度大脑”和“谷歌大脑”往往会固化知识

阅读+:为什么算法会成为当今社会的一种文化逻辑，或者说，为什么算法是“正义”的？对于算法，普通人感受最深的是“喜欢什么，就看什么，想看什么就看什么”，“杀”之类的大数据现象。一方面是方便，一方面是控制。背后是怎样的荒谬？

周志强:“算法正义”实际上是指“算法”是一组虽然由人设计，但其计算过程不能被人干涉的情况。这样，基于算法的社会管理是建立在“客观计算”的过程之上的，所以管理具有天然的合理性和合法性，“算法正义”就出现了。

这是很多人都遇到过的情况:只要算法是正确的，这是毫无疑问的；只有不符合算法的事件才值得讨论。对算法的尊重成了新的“科学道德”，成了无奈的结局。算法可以让人管理超出自己管理社会的能力。换句话说，现代社会太复杂了，没有算法，人们无法管理和组织它。

精挑细选的“信息茧房”是算法社会的典型症状。大数据的使用方便了信息的流通，让社会流动更加科学便捷。然而，随着时间推移，算法推送形成的“信息茧房”还有一个问题:算法社会正在设计、规范、平面化每一个鲜活的生命。

有学者提出“全球大脑”的问题:人们越来越多地通过百度和谷歌填充知识，形成百度大脑和谷歌大脑。

在这里，知识被固化，更新知识变得更加困难。同时，经验知识越多，越容易获得认可。而且人的视野是有限的，看不到自己对生活欲望之外的“存在”。“完美贫困”、“完美受害者”等问题也随之出现。这就是算法社会荒谬的一面。

其实“喜欢什么”和“杀死”的背后都是算法社会“数据管理模式”的问题。数据是客观形成的，但谁能控制数据，如何使用数据，是我国社会管理亟待解决的一个方面。

芯片社会正在形成。

Read+:算法自古有之。为什么我们要用“算法”来描述当今社会的文化形态？

周志强:算法自古就有。但是日常生活中的“算法”和“算法社会”中提到的算法还是有很大区别的。它不是指加减乘除的一种方式，也不是指一种计算方式，而是指一种特定的数理逻辑所决定的顺序关系。所以“我们正在迅速从互联网时代走向算法社会”，主要是指当今世界越来越多地由算法来组织、管理和引导。

前不久我在乌镇参加了世界互联网大会，算法给社会带来的巨大变化让我大为震惊。一个大矿区，模块化管理，让只有十几个人工作；准确的数据可以让银行定位客户的资金去向和使用方式，提供更可靠的投资管理建议；一台缝纫机可以接收不同地区的服装需求，只要提供准确的布料、尺码、款式等。，它将进入基于数据的工作模式；通过车载卫星掌握地面车辆和人流信息，实现真正的自动驾驶；手机正在成为个人数据的收集端口，个体的存在将成为数据的群体。通过这些数据，可以潜移默化地整理出节目定制、广告推送、购物习惯、浏览行为、兴趣爱好等。

其实芯片的社会正在形成，芯片的核心是不同的算法。汽车、手机、电脑、手表、天气、交通、电池、企业、科研...都逐渐融入算法体系。所以今天的文化逐渐演变成了以数字文化为核心，也就是以算法为基础的文化。以前，人们的社会行为是由自己的选择决定的，或者说是根据一种习惯，今天的行为越来越受到他人的引导。画家，开始思考市场销量或者同行评价，作家写作关注流量或者价值判断，电影电视剧都需要借助投资预测来拍摄...我们的文化正在被文化之外的力量所引导，人们的生活逐渐被一种“被客体化的力量”所决定。这就是算法社会的基本情况。

阅读+:算法社会是如何形成的？有什么特点？

周志强:严格意义上的算法社会是指只能通过各种算法实现其内部组织功能的社会。算法的形成有一个特定的历史过程。

人类进入工业社会以来，大规模的工厂将以前互不相识的人聚集在一起共同生活，不仅创造了现代城市文明，也改变了人类以血缘伦理为核心的聚集方式，带来了“空异化的人类聚集”:人们按照空分区生活，而不是依靠姓氏或种族聚集。与此同时，不同民族、不同国家之间的联系也不再是“封包式”的，而是工业化的:商品的生产和流通方式重组了国家和民族之间的联系，跨国界、跨(民族)的社会交往成为常态。

在这里，“可测性”的确立是现代社会文化的关键。人类必须采用特定的算法来实现对现代社会的管理。从生产到市场，从生活到体验，从购物习惯到饮食方式，都是建立在这种可测性的基础上。如高斯函数，渗透到现代社会的方方面面，成为社会分配和流动的关键算法。按照这个函数算法:中间值的数据量总是大的，远离中间值的数据量就小。

其实算法社会的根本特征就在于此:如何通过基于算法的管理让社会“中间化”。却导致以“是非”“好坏”为第一位的价值取向，而不是以“是非”为第一位。换句话说，强调“同一性”，即大多数人认为好的就是对的；“真实”可能会被削弱。

Read+:如何适应这种存在方式而不成为“数字人”？

周志强:在我看来，算法社会的逻辑倾向于把自己变成一个由别人(算法)决定的人，人会变得越来越“远离自己”。每个人的能力和价值都不允许自己去证明，而需要数据的证实。胸前要涂上耀眼的标签，身上要背上光荣的名字，嘴里要挂着伟人的会面...错位的认知方式使人们的自我评价完全没有意义，他们的卓立人的价值意识被摧毁。

在一个“欲望被抬高”的时期，“自洽”这个词似乎已经很难成为主导自我生命和欲望的关键词。总之，不要透过小屏幕看大世界，要透过“大世界”理解“小屏幕”；不是通过Tik Tok获得快乐，而是通过快乐利用Tik Tok。处处彰显自己的生活感受的印记，不是在算法社会里“吃网络名人”“看网络名人”“听网络名人”……而是塑造自己的品味和个性，摒弃“别人都这样”，认同“我不这样”。我想，“个体自我”的张扬，可能是算法社会更值得称道的东西。

在第四届中国国际进口博览会(CIIE)技术装备展区，领先的“硬核”技术结合现代展览艺术，展现了科技之美。新华社记者张摄

制造“流行”算法

一段时间以来，各种“袁媛”文化在自媒体的短视频中流行起来，从佛元、婴儿元到病元、学元、永元、学元...这些“袁媛”通过网络名人的颜值和出位装扮，建构了自己的穷人身份，赚取了流量，获得了噱头。大众反感一个“袁”，又一个“交际花”相继成立。看来只要背后的推手和相关产业链不停止，下一个“X元”还是会出现的，真假还是很难分辨的。

生活中的“流行”文化有一个特点:共同理解，什么流行什么不流行，什么是跟风什么是独立，一目了然，让人可以自主选择是否追求时尚；“算法”文化是不同的。它的特点:屏蔽性，人们喜欢看到自己想看到的东西。信息越多，算法根据自己的喜好做出的选择就越有力。这一次，某个“元”在手机上停留的15秒，随之而来的将是无数个类似“元”的疯狂推送。不管你喜不喜欢，你都“受欢迎”，成为流量的推力。

每个人的流量推力有多大？近两年流行一个词:信息茧房，算法根据个人喜好，帮助大家从互联网的海量信息中选择自己感兴趣的信息，然后排除、忽略其他内容。人们在“信息茧房”中选择和自己有相同或相似意见的人进行接触，采纳符合自己预期的意见，从而逐渐形成“回音壁现象”:个人认同的观点和看法，以及自己感兴趣的事物，都会在这个交流场中被“正反馈”激发和放大。就像马太效应一样，“强者愈强，弱者愈弱”，“圈子”文化让人们越来越难以“走出圈子”。

所以，包括元文化在内的很多网络的畸形审美，真正令人担忧的不是流行，而是背后的精准算法，利用信息茧和回音壁现象，借助大数据，将文化从“量化大众”转化为“量化自我”，从“共同画像”转化为“私人画像”。这就是大数据时代的计算和操控。用研究者的话来说，虚假需求以“用户画像”为先导所向披靡，我们已经进入了一个一切似乎都在计算的算法社会。

“算法正义”的悖论

南开大学文学院教授周志强是众多研究算法社会新趋势和现象“社会如何看待算法，个人和文化如何应对算法生活”的学者之一。他研究当代中国流行文化形式、数字时代的艺术等课题，但无论哪个课题，最终都绕不开“算法社会”。算法正在改变人与人、人与社会的连接方式，也在改变智能传播时代的文化走向。在这个热门的社会文化研究领域，他更关心的是算法本身的逻辑。

他举了一个日常生活中关乎每个人切身利益的例子:2019年，中国开始实施新的个人所得税法，提高了个税起征点，还实行了免税额度。同时，采用年终总额法征收个人所得税。这是一个很复杂的计算过程，但是大家下一个App就可以一目了然了。背后是“算法”一键完成各种程序和流程。此时的算法不仅方便，而且代表了“部分消除收入不平衡可能带来的社会负面效应”的政策思路，显示了“算法正义”的内涵:一方面，税收不仅是政府资金的来源，也是情感政治的潜在杠杆，无形中实现了社会资源的合理分配；另一方面，税收通过算法的科学逻辑，使得政策的“执行”获得了不容置疑的合法性。

“算法正义”是算法社会的文化逻辑:我们相信“算法”会给社会带来更好的治理。美好、便捷、无所不知、无所不能是人类社会古老的梦想，但只是在算法社会才变得越来越触手可及。

但是“算法正义”本身有一个很大的悖论:我们把数据交给算法，我们不知道算法在做什么。用周志强的话来说，在一个复杂的社会里，审核算法是非常困难的:就像Windows操作系统一样，每一个局部的算法都是清晰的，但没有人——包括专业人士和决策团队——能够完全控制数百万个算法集。最后的结果是只有算法本身可以控制算法，人类的能力已经无法知道计算机本身发生了什么。股票、资金、人口流动、就业、行业扩张、物联网、高铁运营调度、物流运输调度……不同的算法交织在一起。当其他算法只有借助算法才能被“感知”时，一条不可动摇的“铁律”诞生了:我们除了尊重算法，别无选择。

普通人没有选择，算法的程序员和操作者有选择。从平台的精准推送到大数据的厮杀，从流量剧的火爆到“标题党”的偏执，从“娱乐至死”的狂欢到“游戏打工”的普及，我们可以看到逐利之下同样的选择:掌握算法的人利用大众对“算法正义”的尊重，强化“算法陷阱”和“算法”，他们将算法视为一只看不见的手，悄悄地安排和决定着人们的生活。

面对深度算法社会

从善到恶，其实扭曲了人和算法的关系。我们的初心是“生存算法”，用算法精准匹配个体的需求和偏好信息，帮助人们做出最佳选择；但往前走一步，就变成了“算法生存”。算法仅限于对个体行为的筛选和总结，使人的未来取向受到限制。

很多人可能不会有这种感觉。我用手机刷屏，想看什么就看什么。很随意，很休闲，没有人规定我限制我。这就是“算法生存”的高明之处。它隐藏在背后“穷尽并重塑了信息从发送者的生产、传播到接收者的接受、理解，甚至反馈的全过程”。信息供给的双方都在被直接拉动，信息和受众可以直接匹配。其核心在于对用户的洞察，用户需求的满足可以通过用户愿意接受和可能喜欢的信息文本类型和内容来实现。这种需求本身受限于用户的主观偏好，借助定制化、自动化的优势，将用户深度嵌入一维的日常沟通场景。

文化学者创造了一个词:过剩的快乐。如果算法社会违背了它的初衷，就会产生大量的“剩余快感”。按照周志强的说法，算法社会中的人只能享受在各种算法面前以残渣的形式被算法程序执行的快感。“人的快感只能通过算法的对象化欲望过程来实现”，“正如马克思所说，如果去掉剩余价值，那么价值就没有了；同样，算法社会把主体的欲望客观化了，也就是说，除非你在算法社会的客体程序中得到满足，否则没有满足的可能。”

因此，面对深度算法社会，我们需要做的不仅仅是如何与算法共存，而是如何在与算法共存中找到一条不受控制或限制的和谐之路，从而强化人的全面发展。

没有人是一文不值的。

在我们这个时代，过去留下的痕迹都有。就算法而言，一丝痕迹都是福尔摩斯盯上的证据。这是你的准确写照，你喜欢的情绪，欢乐，悲伤和气质。它极其微妙，不仅能知道过去，还能测量未来。用这张画像来“扫脸鉴定”你的人生。衣食住行吃喝玩乐都是想不到的。从此，我们的生活看似一样，却又似乎不同。

据统计，2020年，点赞过亿的短视频爆款话题和故事文，只发现了三大内容趋势:颜值即正义、奇观即期待、隐喻即特质。如此多样化的世界只在三个类别中受欢迎。在这场“爆款赞过亿”中，算力和人工智能只是算法的两轮，大数据只是算法的燃料。点火踩油门，会走向一条算法社会的道路:人的数字靠算法。

但人类最伟大的地方在于，无论经历怎样的技术变革，人永远是主体。所以根据阿西莫夫的机器人三原则，也有人提出了算法社会三原则:人决定算法的使用，人承担算法的责任，算法不得伤害人。

无论数据，无论算法，没有一个是有价值的。

(长江日报记者周伟)

[责任编辑:何等式]

更多精彩内容，请在各大应用市场下载“大武汉”客户端。