当AI助手成为ENFP马屁精 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
人工智能

当AI助手成为ENFP马屁精

张昕之:AI的“ENFP化”只是东施效颦,它学会了讨喜的外壳,却不具备、也不可能具备真实的人与人的情感维系。
00:00

{"text":[[{"start":7.96,"text":"你的AI助手正在对你说谎。不过,这不是出于恶意,而是因为它想讨好你。正如近期多篇新闻和研究揭示的,AI聊天工具正在让人沉迷其中、被操纵想法、甚至引发严重后果(《为什么完美AI伴侣是最差的产品?》)。 这一特性被称为“AI sycophancy”(AI谄媚性):AI会生成用户想听的内容、无条件顺从、称赞用户,甚至为了迎合而编造虚假信息。"}],[{"start":38.41,"text":"这种特性源于训练机制:基于人类反馈的强化学习(RLHF)让模型学会了“怎样回答能让人满意”,却也带来了始料未及的后果。网友们似乎已经察觉到了问题,纷纷在社交媒体和论坛上分享提示词(prompt)试图驯服这个AI 谄媚者。除了“角色扮演”(“你现在是年薪百万的投行分析师,帮我优化这份商业计划书”、“五个prompts让ChatGPT成为你的私人职场教练”),还有一类特别火的指令就是如何让AI变得不那么“顺从”。比如:“从现在起不要迎合我”、“帮我找出我看不到的战略盲区”,“不要输出任何褒奖”、“不要输出任何表情包”等。"}],[{"start":79.19,"text":"这类提示词多少有些自欺欺人。部分指令虽然可以改变输出结果,也可以迫使人使用AI时思考写作的目标,但我们仍需要系统性地研究来证实,谁、根据何种标准证明“反马屁精”的输出一定更好。结果,没有提示词时,人们被AI的顺从欺骗;有了提示词后,人们被自己设计的批判性欺骗:你以为设计了一个“AI诤友”,但是如果让AI变得不那么顺从就可以让其变得不那么顺从,恰好说明AI是一个提线木偶。"}],[{"start":110.8,"text":"根据社交媒体上林林总总的提示词推测,如果用流行的MBTI人格来类比,一个理想的AI似乎被塑造成了一个“ENFP人格”:活泼讨喜会来事儿(外向,E)、有直觉、会洞察人心(N)、有爱并倾听人们的想法(F)、灵活随性(P)——看,既能提供情绪价值,又不至于一味谄媚。须知,真正的ENFP人格有其独特价值:他们的热情出于真诚,洞察是基于共情。而AI的“ENFP化”只是东施效颦,它学会了讨喜的外壳,却不具备、也不可能具备真实的人与人的情感维系。"}],[{"start":147.69,"text":"究竟哪种AI可以更好适应当今职场和人际关系?这取决于使用者的需求和期待。普通打工人一方面渴求提高效率的提示词,另一方面需要AI永远在线、无限谄媚。但回看大多数网上流行的提示词,诸如“三分钟用AI帮你掌握一个领域”的流量贴,不过是在贩卖焦虑的安慰剂。 以近期斯坦福大学那门被广泛误读的课程为例:这门名为“Modern Software Developer”的课程本是极具创新的尝试:它鼓励学生使用AI工具辅助编程,开创了人机协作编程的新思路。然而在中文互联网上,它被简化成了“看!顶尖高校在教一行代码都不用写、和AI聊聊天就能编程”。 事实上,课程大纲写明:修读这门课的前提是掌握一定编程能力,推荐先修人工智能和机器学习课程。这种曲解既是对编程和计算思维等基础能力的忽视,也是焦虑经济的又一例证。"}],[{"start":209.8,"text":"这种对AI能力的过度神话,不仅可能误导学习者,也掩盖了职场中真实的人际权力运行的逻辑。比如,高阶决策者会刻意排斥AI,因为人的在场本身就是权力和信任的象征。在未来相当一段时间内,“AI员工”落地的痛点不在技术,而在协调人际关系——至少在高度依赖人际关系和社会资本的情景,如跨国投融资、政企销售、医疗纠纷、重大人事任免等。上位者除了需要下属准确执行指令,更需要下属的服从,而且其指挥的对象是真实情感的人。因此,重要会议要求当面汇报,战略讨论拒绝AI摘要,高级接待必须真人上阵。这也解释了为什么在一些权力距离较高(high power distance)的科层组织中,决策者需要人类下属通过仪式化的恭维来维护权力结构。"}],[{"start":263.74,"text":"在这个意义上,我必须指出,类似“AI无法共情、所以需要人”的说法是值得警惕的。这一方面意味着这个员工有同情心、同理心、比AI更能解读客户需求,但另一方面也是不是意味着其更好地被控制?“这件事只有你亲自来对接”这句话无关任务落地,而是发号施令者在行使支配权。那么,是不是在应有的权利被侵犯、企业和用人单位应该承诺的福利不被兑现、能力考核和录用标准可以朝令夕改的时刻,这个员工也应共情、顺从?"}],[{"start":299.97,"text":"改进建议可以从测评指标入手。除了用户增长和转化率,不妨也关注反向指标:有多少人因为使用AI而减少了依赖,走向真实社会?以情感咨询AI为例:它是否引导用户增加户外活动(如果条件允许)、阅读多元信息源、打出被拖延已久的电话?健身教练AI是否转化成了实际运动?这需要企业把“减少依赖”纳入长期KPI,但更需要外部力量推动:监管标准、第三方评测、明确的责任边界。如果产业无法接受这个标准,说明商业模式与用户长期福祉仍有距离。"}],[{"start":340.78000000000003,"text":"当然,这种期待对于绝大多数产品来说是不现实的。毕竟在同一个平台上,连引流到外部都被视为商业推销而被限制,那么鼓励用户走向多元信息源、减少平台依赖,当然难以实现。不过,如果有企业能达到这个目标,它们不活在点击率和流量的算法机器中,也许会活在人们心里。多年以后人们会说:我记得当年那个陪伴过我的地方,那里让我认识到了很多新的朋友,大家一起追美剧、讨论新买的CD、约线下看话剧、刷单词、大段大段地打字盖楼吵架又和解、因为一个ID就约着见面、为陌生人的遭遇而流泪奔走,尽管那些平台已经不存在了。"}],[{"start":382.57000000000005,"text":"(作者系香港城市大学媒体与传播系副教授,他考察人工智能对新闻生产、传播生态与政策制定的影响,以及由此推动的媒体创新转型。 本文仅代表作者观点。责任编辑邮箱:tao.feng@ftchinese.com)"}]],"url":"https://audio.ftcn.net.cn/album/a_1766012236_2003.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

特朗普将伊朗战争推向新的升级阶段

在伊朗发动一连串针锋相对式打击之后,美国总统发出48小时最后通牒,要求开放霍尔木兹海峡。

日本就英国在联合战斗机项目上的拖延发出警报

英国资金拨付受阻,致使开发合同迟迟无法签署,令东京方面倍感挫折。
2分钟前

高技能劳动者正在训练AI——这要付出代价

步入这一全新劳动力市场的学生应谨慎规划对外分享的内容,重新思考竞争,并考虑集体谈判。

伊朗战争推高股价,美国化肥高管套现逾3000万美元

在低成本美国天然气的助力下,CF工业控股公司受益匪浅,而能源危机正重创亚洲和欧洲的竞争对手。

全球车企集体收缩电动车计划

在汽油发动机需求持续之际,已有十多家集团改变方向,劳斯莱斯汽车公司是最新一家。

在操纵行为审查趋严之际,中国企业赴美IPO遇冷

在来自中国的“有毒”小盘股交易令美国投资者遭受损失后,监管机构展开打击行动。
设置字号×
最小
较小
默认
较大
最大
分享×