与AI谈恋爱有风险OpenAI警告用户高级语音模式会影响人际关系

财联社8月9日讯（编纂 牛占林）在7月尾，OpenAI推出了ChatGPT高档语音模式，其功效让用户觉得震惊。而在周四宣布的一份平安审查申报中，该公司认可，这种拟人化的声音可能使一些用户发生感情上的依恋，从而影响到正常的人际关系。

据OpenAI此前先容，高档语音模式能提供更天然的及时对话，听起来极其真切，它容许用户随时打断，并能感知和相应用户的情绪。及时相应和可打断对话是今朝语音助手公认的技术难点。

OpenAI在本年5月推出了新版本年夜模子GPT-4o，同时还展现出了语音模式。该公司原定于6月尾开端慢慢向用户开放语音模式，但终极决议推迟至7月宣布。今朝，仅向部门ChatGPT Plus用户开放。

在OpenAI宣布高档语音模式时，它就被视为2013年片子《她》中与主人公谈爱情的AI助理，但当AI认可“她”还与数百名其他用户有爱情关系时，主人公陷入了瓦解。

在经典科幻片《银翼杀手2049》中，上演了险些同样的场景，AI虚拟人成为了主角的女友，当主角看到虚拟女友以同样的形态被售卖时，令人羡慕的诚挚恋爱刹时子虚乌有。

如今，OpenAI显然担忧上述虚构的故事成为实际，它察看到高档语音模式成为了用户表达感情的对象。“用户可能会与AI树立社交关系，削减他们对人类互动的需求，这可能有利于孤单的人，但可能会影响康健的人际关系。”

OpenAI指出，从一个听起来像人类的谈天机械人那边听到的信息，可能会导致用户过于相信这个对象，但AI有犯错的倾向，这也会造成问题。

平安审查申报还提到，科技公司正在竞相敏捷向"大众推出AI对象，他们说这些对象可能会推翻人类生涯、事情、社交和查找信息的方式。但在人们真正懂得这些寄义之前，他们就已经这么做了，但这每每会带来意想不到的效果。

伦理挑战

一些人已经开端与AI谈天机械人树立所谓的爱情关系，这引起了感情专家的担心。

亚利桑那州立年夜学研讨技术和人类交流的传授Liesel Sharabi表现，科技公司在处置与技术相关的道德和责任问题上承担了伟大的责任，并且今朝这统统都还处于实验阶段。她担忧的是，人们可能会与那些可能历久存在不了、且赓续蜕变的技术形成异常深挚的接洽。

OpenAI以为，跟着光阴的推移，用户与ChatGPT语音模式的互动也可能影响社交中的正常行动。“我们的模子是尊敬用户的，容许用户随时打断并‘接收麦克风’，这固然对付AI来说是预期中的行动，但在人类互动中倒是违背社交规范的，至少有些失仪。”

今朝，OpenAI称致力于“平安地”构建AI助手，并方案继续研讨息争决用户对其对象“感情依附”的可能性。

OpenAI并不是独一一家熟悉到AI助手仿照人类互动的风险的公司。本年4月，谷歌DeepMind颁发了一篇长篇论文，讨论了更有才能的AI助手可能带来的伦理挑战。