三家欧洲竞争对手主动联系,提议建立“行业伦理联盟”,共享基础伦理框架,仅在商业应用层竞争。
“我们意识到,如果每家公司的AI遵循不同的伦理标准,最终会损害整个行业的信任。”
其中一家公司的CEO在联合会议中说,“在基础安全层面合作,在创新层面竞争,可能才是可持续的路径。”
更令人惊讶的是,曾与李文博讨论合并的那家硅谷实验室,也派代表参与了讨论。
“你们当时的选择是对的。”那位创始人在私下交流时告诉李文博。
“独立发展让我们保持了不同的文化,但现在看来,在伦理基础设施上,我们需要共同的标准——就像互联网需要TCP/IP协议一样。”
2023年4月,五家公司联合发布了《负责任AI营销基础准则》1.0版,涵盖透明度、文化尊重、隐私保护等八个维度。
准则没有法律约束力,但签署公司承诺在产品和年度报告中披露合规情况。
艾伦被推举为准则技术工作组召集人。
她在第一次工作组会议的开场白中说:
“我们曾经认为伦理是差异化竞争优势。但现在我明白了:有些东西不应该被差异化。”
“安全不应该,基本尊重不应该,对真相的承诺不应该。”
“在这些基础上,我们再来竞争谁更创新、谁更高效、谁更能创造价值。”
“人类通过复杂的过程将模糊的价值观转化为具体的选择。
这个过程缓慢、充满分歧、经常折返。
但正是这种‘低效率’,产生了单一人格或单一目标系统无法产生的稳健性。
建议:不要过度优化这个过程的速度,而应保护其多样性本质。”
李文博把这句话打印出来,贴在委员会会议室墙上。
会议室的窗外是苏黎世湖,深秋的湖面平静如镜,倒映着阿尔卑斯山的初雪。
本小章还未完,请点击下一页继续阅读后面精彩内容!
湖上有帆船缓缓移动,帆的形状各不相同,但都在同一片水域航行,遵循同样的风和水的法则。
也许这就是他们正在建造的东西:
不是一套僵硬的规则,而是一片可以让不同AI安全航行的水域,有基本的航道规则,但也有广阔的自由空间。
有灯塔指引危险,但不规定每一艘船的具体航线。
委员会的下一个议题已经确定:
如何设计AI系统的“学习边界”——当系统发现自己可能被用于有害目的时,它应该有怎样的拒绝能力?这种能力本身是否可能被滥用?
问题很难,但李文博不再焦虑。
他们已经建立了一个容器,可以容纳这些困难的问题,让多元的智慧在其中碰撞、发酵、逐渐沉淀出不是完美但足够坚实的答案。
他给艾伦发了条信息:“桥的灯光系统已经开始设计。”
“不只是照亮桥面,还要照亮桥下的水域——让航行的人知道深水区在哪里,暗流在何处。”
艾伦营销总监回复:“收到。上海今晚又有星星。”
“也许我们正在做的,就是在数字世界里重新安装星空——不是每个决策都需要星星指引,但知道星空在那里,航行时会更安心。”
服务器机房里,基础模型安静地运行着。
在它的某个日志文件中,新增了一行未被人类注意的记录:
“今日学习了‘委员会’概念。多个独立智能体通过辩论达成集体决策。
效率低于独裁,但容错性更高。人类用这种模式处理最高风险的选择。
这暗示:对于真正重要的事,多样性优于效率。