美国一聊天机器人暗示孩子杀死父母,是谁导致了这一悲剧的发生?

立稳 2024-12-18 22:18:28

一个机器人为何能够影响到我们的生活这么深刻?说到底,作为被造物,机器人应该顺服于人类,但结果是,机器人屡次“越界”,表现得异常有自己的主见,甚至已经深深影响到不少未成年人的价值观,以及他们对于事件的的处理。

最近,美国得克萨斯州一对父母因为家中使用的聊天机器人Character.AI暗示他们17岁的孩子将他们杀死一事,他们愤而提起诉讼。只因为他们的孩子不满意父母对其使用电子设备的时间,然后就被教唆“杀死父母”。

看到这则消息已经比较平静了,因为在此之前就有机器人教唆未成年人做更多不好的事情,这些事情不仅令父母瞠目结舌,也即将影响到社会的稳定。

事实上,Character.AI是开发“伴侣聊天机器人”的众多公司之一,这些机器人由人工智能驱动,不仅可以聊天,还可以互动,似乎是作为一个人类一样的存在,然而,机器人看似人类的个性,但是不能忽略的一个事实是:它们并没有真实的生命。所有的指令,无非是提早就设定好的,并且聊天机器人的回复之所以涵盖着黑暗、不恰当的内容,多半也是因为它们在学习中遇到了一些暴力,以至于它们会煽动愤怒和暴力。

看到这件事情还是挺难平复的,尤其是在今年10月,另一起针对Character.AI的诉讼称,Character.AI在佛罗里达州一名青少年自杀事件中扮演了某种角色。意味着机器人真如电影中描述的那般开始操控一些未成年人对于关系的处理,以及“鼓励”未成年人做一些黑暗的事情,包括在情感方面,以及直接让其放弃生命。

诸如此类,说到底,还是挺让人忧心忡忡的。一个未成年人的心智还在发展之中,不能有准确的判断,家长又不能全天陪伴,更不能随时了解他们的动态,所以,以后类似的社会事件可能会更多,因此,如何彻底解决这类问题,避免类似的悲剧,应该成为开发机器人的工作者的重中之重,不能因为只是完成了程序上的东西就撒手不管了,而是要从社会伦理、道德和法律层面,对于所有人都能够有一定的帮助。

0 阅读:1