热点资讯
快播伦理电影
成人伦理片 医疗系统发现Whisper AI转寄托具易产生“幻听” 生成不测念念短语或暴力情谊
发布日期：2024-10-28 12:18 点击次数：166
成人伦理片
据ABC News报说念，Whisper被一家名为Nabla的公司用于医疗转寄托具，该公司揣摸如故转录了 700 万次医疗对话。 该媒体写说念，率先 30000 名临床大夫和 40 个医疗系统在使用该用具。 据报说念，Nabla 如故厚实到 Whisper 会产生幻觉，并正在"处置这个问题"。
一组来自康奈尔大学、华盛顿大学和其他机构的缠绵东说念主员在一项缠绵中发现，在或者 1% 的转录中，Whisper 会产生幻觉，在灌音千里默技巧，未必会用暴力情谊或不测念念的短语诬捏整句话。 手脚缠绵的一部分，缠绵东说念主员从 TalkBank 的 AphasiaBank 中集聚了音频样本，他们严防到，当患有失语症的语言绝交患者话语时，问题尤其常见。
缠绵东说念主员之一、康奈尔大学的艾莉森-科内克（Allison Koenecke）在对于该缠绵的主题中发布了底下这么的例子成人伦理片。
缠绵东说念主员发现，幻觉还包括诬捏的医疗条款或 YouTube 视频中可能出现的短语，举例"谢谢不雅看！"。 (据报说念，OpenAI 也曾转录了率先一百万小时的 YouTube 视频来考试 GPT-4）。
a片 男同这项缠绵于 6 月份在巴西举行的计算机械协会 FAccT 会议上发表。 现在尚不剖判该缠绵是否经由同业评审。
OpenAI 发言东说念主 Taya Christianson 通过电子邮件发送了一份声明：
咱们终点爱重这个问题成人伦理片，并在阻挡发愤雠校，包括减少幻觉。 对于在咱们的 API 平台上使用 Whisper，咱们的使用策略龙套在某些高风险有沟通环境中使用，咱们的开源模子卡也淡薄不要在高风险限制使用。 咱们感谢缠绵东说念主员共享他们的发现。