{"text":[[{"start":7.76,"text":"目前在奥克兰罗纳德•V•德勒姆斯法院审理的一起引人注目的法律案件，正在戳破一个谎言：仅靠前沿人工智能的自我监管就足够了。世界首富埃隆•马斯克(Elon Musk)指控OpenAI首席执行官萨姆•奥尔特曼(Sam Altman)欺诈性地背弃了这家人工智能实验室以慈善机构形式成立时的协议，并不正当地使自己获利。奥尔特曼的律师则回应称，马斯克虽然是OpenAI的早期出资人，后来创立了竞争公司xAI，但因使用名为“犀牛氯胺酮”的药物而出现记忆空白，因此是一名不可靠的证人。"}],[{"start":43.989999999999995,"text":"有时候，庭审中的证词更像是校园斗殴里的人身攻击和私人恩怨，尽管攸关的是数十亿美元级企业的命运。但这起案件也无情地照亮了，世界上两家资金最雄厚的前沿人工智能实验室究竟是如何运作的。我们真的愿意让这样一心求胜、不择手段的亿万富翁在毫无约束的情况下掌控开发这个时代最强大科技的进程吗？不论他们在创业上多有天赋，马斯克和奥尔特曼都显然而且迫切地需要“成人监管”。"}],[{"start":77.03,"text":"他们所在公司的董事会，或者美国联邦政府，是否愿意且有能力提供这种监督，是另一个问题。几位科技巨头在唐纳德•特朗普(Donald Trump)总统就职典礼上象征性地“屈膝臣服”，似乎表示自己从属于白宫。但这一姿态也是一笔精打细算的交易：在人工智能监管问题上，是他们在“玩”特朗普。在特朗普的第二个任期里，随着美国力图在与中国的竞争中抢占先机，“无须许可的创新”成为其政府的口号。眼下，受到监管限制的美甲店都比前沿人工智能公司要多。"}],[{"start":114.25,"text":"然而，Anthropic对Claude Mythos的受控发布——这一前沿模型能够发现数以千计的网络安全漏洞——使得人们再也无法忽视其中的国家安全风险。“Mythos改变了这场争论的基调，”曾参与起草特朗普的2025年《人工智能行动计划》(AI Action Plan)的Dean Ball对我说，“我们不能再假装灾难性风险不存在。而且，灾难性风险显然会牵涉到国家。”"}],[{"start":139.44,"text":"现撰写《Hyperdimensional》通讯的Dean Ball表示，除防范灾难性风险（例如大规模网络攻击或生物武器）外，他反对几乎所有形式的人工智能监管。防止一切可能的灾难性风险是国家的责任，市场参与者没有动力去这样做。"}],[{"start":156.57,"text":"但Dean Ball同样担心另一种情况：一旦“利维坦”苏醒，国家在前沿人工智能上获得过多权力。不仅由国家垄断先进人工智能将成为史无前例的专制统治工具，也可能意味着人类会失去人工智能毫无疑问能带来的诸多益处。他写道：“这是我们必须不惜一切代价避免的终极反乌托邦。”"}],[{"start":179.45,"text":"关键挑战在于如何建立独立机构，同时保护我们免受人工智能公司和国家的侵害。至少有一部分答案，已经在法律与人工智能研究所的Christoph Winter和Charlie Bullock撰写的一篇颇具启发性的论文中被勾勒出来。他们提出，社会需要发展一种他们称之为“激进可选择性”的制度安排。"}],[{"start":201.35999999999999,"text":"美国奉行的“放任市场自由发展”做法，带来了Dean Ball所概述的那些风险。但欧盟坚持奉行预防原则，则意味着它过早地试图去规制一项仍在演进中的科技，风险在于扼杀整个产业。"}],[{"start":216.27999999999997,"text":"作者提出的另一种解决方案，是建立资金充足的专家机构、安全的信息共享渠道、举报人保护机制、实验室安全标准，以及用于监测新兴风险的法律授权。这样一来，信息充分的主管机构就可以在关键节点进行干预。其中一个这样的机构是英国人工智能安全研究所(UK AI Security Institute)，它源自2023年由时任英国首相里希•苏纳克(Rishi Sunak)在布莱切利园(Bletchley Park)主持的峰会。这一在全球各地被效仿的研究所，已经为Mythos提供了重要的测试与评估。"}],[{"start":249.52999999999997,"text":"Anthropic谨慎地发布了Mythos，将这项科技分享给40多家合作机构，并启动“玻璃之翼计划”(Project Glasswing)来帮助发现并弥补安全漏洞，这一系列举措表明，自我监管可以发挥重要作用。但正如Winter指出，Anthropic并没有任何外在义务必须这样做。他说：“在人工智能时代，我们应当对任何形式的权力集中保持高度警惕。”"}],[{"start":273.84,"text":"就连Anthropic的首席执行官达里奥•阿莫迪(Dario Amodei)也担心那些可能滥用人工智能的“搅局者”和不法分子，并明确呼吁对前沿模型实施更为严格的监管。我们亟须创造实现这一点的途径。"}]],"url":"https://audio.ftcn.net.cn/album/a_1778889025_6524.mp3"}