Google 员工恳求别推 Bard 批其比没用还糟糕
ChatGPT 问世直接重击搜索引擎巨头 Google ,Google 也推出 AI 聊天机器人 Bard,但日前传出员工曾批 Bard 品质不佳恳求公司不要贸然推出的消息
ChatGPT 问世直接重击搜索引擎巨头 Google 的核心业务与命脉,为了追上 OpenAI 与微软,Google 推出 AI 聊天机器人 Bard,但日前竟传出员工曾批 Bard 品质不佳恳求公司不要贸然推出的消息。
从 Google 长久奉行的永远 Beta 版产品开发策略,很难不怀疑 Bard 就是赶鸭子上架的产品。
19 日彭博 Bloomberg 援引 Google 18 位在职及前员工讨论讯息,以及内部讯息截图报导,Bard 推出前一些员工批评聊天机器人是近乎病态的谎言、比没用还糟糕,请求公司不要推出。
也有员工指出,Bard 经常有十分危险的建议,无论回答如何让飞机降落或潜水等简单问题。
彭博指 Google 甚至否决安全小组的风险评估报告,认为系统没有做好供所有人使用的准备,但还是 3 月就开放实验性聊天机器人试用。
彭博描述 Google 为了追上OpenAI 与微软,毅然将道德问题放在一边。虽然吹嘘始终致力维护 AI 安全和道德,但因常优先考虑业绩而备受批评。
Google AI 产品的问题可回溯至 2020 年底和 2021 年初,解雇 Timnit Gebru 及 Margaret Mitchell 两位研究人员,当时两人撰写论文,揭露AI 语言系统有漏洞,Bard 等聊天机器人也是采用相同语言系统。
随着生成式 AI 威胁到 Google 搜索商业模式,使其似乎更重视业务而非安全及道德问题。当然仍有员工认为,公开测试对系统开发保护是必要的,相对其他威胁,聊天机器人的已知危害最小。
且网络会产生令人不快文字或误导性信息来源多的是,不只有 Bard 如此。面对商业模式,微软和 OpenAI 也会像 Google 妥协,唯一差别是前两者不是搜索市场领导者,所以没什么好失去的。