生成式假消息伤害人,美联邦贸易委员会开始调查 ChatGPT

美国联邦贸易委员会昨日向 OpenAI 公司发出传票,将正式针对该公司旗下生成式 AI 产品 ChatGPT,产生针对个人或团体的假消息造成名誉损害等案例展开调查。

这项调查由联邦贸易委员会(Federal Trade Commission,FTC)主席琳娜汗(Lina Khan)主导发起,昨日琳娜汗在联邦众议院司法委员会中表示,对於 ChatGPT 和相关 AI App 蒐集资讯方式尚无法可管的情况感到担忧。

「我们目前已经收到许多案例,例如用户在查询某人时,出现许多敏感个人资讯,也出现不少毁谤、断章取义式的回应。」琳娜汗指出,这些由 AI 产生的误导式资讯已损害许多人名誉,因此必须要求 ChatGPT 尽快为此提出解决办法。

不过 FTC 在处理微软并购动视暴雪案受挫後,又再次向 ChatGPT 这个 FTC 不熟悉的领域发起挑战,也让外界感到担忧。

美国进步商会(Chamber of Progress)创办人切瓦科维奇(Adam Kovacevich)表示,若 ChatGPT 说出了针对某人的敏感讯息,并且做出了可能损害名誉的论述,产生毁谤罪可能,这个情况已经牵涉言论自由跟管制问题,超出 FTC 的管辖范围。

针对这个问题 FTC 官员罗腾堡(Marc Rotenberg)则回应表示,FTC 是否有权管辖毁谤的确仍有争议,不过误导式广告及商业运作中产生的假消息,都在 FTC 的管辖范围内。

在 FTC 发给 OpenAI 的传票中,将要求 OpenAI 详细说明该公司维护资料安全的各种做法,并说明一起 2020 年发生的 Bug,当时出现用户可查阅其他用户个资及交易资讯的问题。

FTC 针对 ChatGPT 的调查也显示不仅国会,联邦政府也开始加速对 AI 的管控措施,虽然许多人质疑这些管制将阻碍美国与中国在 AI 领域的竞争优势,但 OpenAI 执行长艾特曼(Sam Altman)也呼吁政府应对 AI 加以管制。

除了在国会听证会上表示,近期艾特曼也与多国领袖会面,包括法国总统马克宏和印度总理莫迪等,讨论 AI 所带来的优势和危机等问题。

  • ChatGPT Comes Under Investigation by Federal Trade Commission

(首图来源:shutterstock)