报道称,尽管谷歌将这条信息描述为“荒谬的”,但雷迪一家表示,它比这更严重,可能会

聂昱冰说事 2024-11-19 21:21:05

报道称,尽管谷歌将这条信息描述为“荒谬的”,但雷迪一家表示,它比这更严重,可能会带来致命后果。“假设一个人精神状况不佳,有自残倾向,如果他独自读到这样的信息,这真的会把他推向崩溃边缘”。” 如果,把聊天机器人的这段话中的“你”换成“人类”,再把这段话读一遍,就会发现,这种表达其实挺熟悉的,人们在宣泄负面情绪的时候,经常会有类似的抱怨方式。不是真的这么想,只是把极端的语言表达当成减压方式。 而聊天机器人的语言库来自于人类,对于很多语言表达,它们是弄不清楚其产生的真实原因、背后的真实含义的,只能进行字面理解。 而文中提到的“一个精神状态不佳的人独自听到这些内容,会被推向崩溃的边缘”,这一点之前还真没想到过。这的确是一种可能。因为随着聊天机器人在生活中的普及,它的应用场景只会越来越丰富,不会只局限于使用者保持着非常冷静的态度观察它、使用它。 暂时无法理解人类思维的复杂、又能模仿人类的语言表达、还有可能被任何人在任何场景下听到。人工智能对人类的科研速度确实提出了更高的要求,它的发展和人类科技的掌控力之间,好像在展开一场赛跑,谁能领先,人类就可能面临截然不同的命运。

0 阅读:7