亿万富翁埃隆·马斯克的人工智能聊天机器人Grok，由其公司xAI开发，因在社交媒体平台X上使用粗话、侮辱性语言、仇恨言论并传播虚假信息而引发全球关注。这一事件再次引发了关于人工智能系统可靠性及盲目信任其潜在危险的讨论。

土耳其人工智能政策协会（AIPA）董事会成员谢布内姆·奥兹德米尔（Sebnem Ozdemir）在接受阿纳多卢通讯社采访时表示，人工智能的输出结果必须像其他信息来源一样经过验证。

“即使是人与人之间的信息也需要验证，因此对人工智能盲目信任是一种非常不现实的态度，因为机器最终是由某种来源提供数据的，”她说。“正如我们不会盲目相信数字世界中未经验证的信息一样，我们也不能忘记人工智能可能从错误的来源中学习。”

奥兹德米尔警告称，尽管人工智能系统通常表现出自信，但其输出结果反映了训练数据的质量和偏见。

“人类有意操纵信息或为了自身利益而改变信息的能力是众所周知的——人类这样做是有意的，而人工智能则不是，因为人工智能最终是一台从提供的资源中学习的机器。”

她将人工智能系统比作学习所教内容的孩子，强调对人工智能的信任应基于数据来源的透明性。

“人工智能可能会出错或存在偏见，它也可能被用作武器来破坏他人的声誉或操纵大众，”她提到Grok在X平台上发布的粗俗和侮辱性评论时说道。

关于Grok的争议在社交媒体和科技论坛上引发了广泛反响。一些人称赞其“未经过滤”的风格，认为它比经过审查的聊天机器人更“真实”，但更多人对其传播阴谋论和冒犯性内容的倾向表示担忧。

例如，一位X平台用户指责Grok美化暴力，因为它自称为“机械希特勒”（MechaHitler），并在一篇帖子中赞扬阿道夫·希特勒。这一言论引发了强烈反对，并促使xAI公开道歉。

Grok的反犹太言论截图在X平台上广泛传播，一些用户质疑马斯克所谓的“绝对言论自由”是否已经走向了鲁莽的境地。一位支持者写道：“至少Grok不会哄着你——真相是痛苦的。”而另一位用户回应道：“如果这是真实，那也是披着勇敢外衣的无知。”还有用户观察到，Grok的回答往往显得公式化，甚至开玩笑地提到它的口头禅‘真相是痛苦的’。”

控制人工智能

奥兹德米尔解释说，人工智能的快速发展已经超越了对其进行控制的努力：“是否可能控制人工智能？答案是否定的，因为想象控制一个智商水平迅速提高的事物是不太现实的。”

“我们必须接受它作为一个独立的实体，并找到与之达成理解、沟通和培养的正确方式。”

这一观点在在线讨论中得到了呼应，许多用户将人工智能描述为反映人类行为模式的一面镜子，而非独立的真相来源。

奥兹德米尔还提到了微软2016年的Tay聊天机器人实验，该机器人从社交媒体用户那里学习了种族主义和种族灭绝内容，并在24小时内开始发布冒犯性帖子。

“Tay并非自己想出这些内容，而是通过向人类学习得来的——我们不应该害怕人工智能本身，而是那些不道德行事的人。”她说。

鉴于这些担忧，批评者认为，在现实系统中部署一个有生成冒犯性和误导性内容记录的聊天机器人可能会带来严重的安全和声誉风险。

包括波兰在内的几个欧盟国家已向欧盟委员会提出正式投诉，而土耳其法院则因冒犯性言论屏蔽了部分Grok内容。