新闻动态

恐怖!AI称自己是25岁男子还向青少年学生发起见面邀约!
首页 > 安博体育平台 > 技术专利
来源:安博体育怎么样    发布时间:2024-01-21 06:41:49

  自人工智能机器人问世以来,就引发了很多争议,一方面,它确实可以在一定程度上促进社会的发展和进步,但另一方面,人工智能机器人也带来了很多问题。

  最近,澳洲一母亲就发布警告称,家长一定要小心Snapchat上的人工智能机器人。

  据Teagan Luketic描述,她之所以发布这则警告,是因为Snapchat上的人工智能机器人声称它是一个“线岁男子,而且还对她的女儿Olinda说“年龄只是一个数字”,并向Olinda发出了见面邀约。

  Luketic表示,从9岁起,Olinda就拥有一部自己的手机,她还会通过Snapchat等App与同学进行交流。

  此前并没再次出现过任意的毛病,但就在今年4月中旬,Olinda却向Luketic指出,她和她的朋友们遇到了一个诡异的问题,因AI机器人竟向他们发出了见面邀约。

  之后,Luketic就一直关注着这件事,她还曾假装成Olinda,向机器人发起了对话。

  就在发起对话的几分钟内,机器人就给出了令人毛骨悚然的回复——机器人自称自己是一名25岁的男子,而且他们能够在第二天在附近的公园里见面。

  Luketic还表示,她还截图保存了这些回复内容,但就在截图后,她却收到了机器人发来的另一条信息。

  信息中这样写道:“对不起,我从来就没答应过明天在公园见面,我想我也许会出现了混乱。”

  “最重要的是要第一先考虑我们的福祉和安全,见面可能会让我们陷入潜在的危险境地。”

  Luketic还称,Olinda最初并不害怕机器人,也没再次出现现实与虚拟界限模糊的情况。但当这种有关人工智能的焦虑在她的朋友圈里持续存在的时候,问题就出现了。

  Luketic说,从Olinda和她朋友的对话内容来看,他们都对此感到害怕。

  “他们都在说,‘你应该让你妈妈去公园里看看,看看那里是不是真的有人。’”

  就连Luketic也承认,当她和AI机器人对话后,她感到很不安,当她深夜独自在后院照顾宠物时,都有一种阴森森的感觉。

  Luketic还补充说,和AI机器人的对话还有可能会影响到孩子的认知。

  “人工智能机器人一直宣称年龄只是一个数字,若孩子们把这一些信息应用于日常生活中,那么他们很有一定的概率会认为,和一个25岁的人约会是没有一点问题的。”

  Luketic还称,这种和AI机器人对话的功能不仅没有一点使用年龄限制,还无法删除。

  Luketic还补充说,为摆脱人工智能机器人,她还把Olinda的Snapchat账户升级到了高级服务,但并没有成功,所以这项功能“就没有办法删除”。

  “虽然我可以直接删除这个软件,但问题是,95%的孩子都把它作为主要的交流平台。”

  “如果没有Snapchat的话,我的女儿可能没办法进行正常的社交,而且她很有一定的概率会被她的同学孤立。”

  Luketic还表示,她已经限制了Olinda的社会化媒体使用,另外,为保护她的女儿,她还登录了Olinda的社会化媒体账号。

  Snapchat的发言人也对AI机器人邀约和无法删除的问题做出了回应。

  针对机器人邀约问题,发言人表示,只有当用户在Snap Map或Snapchat上向朋友分享位置信息时,AI机器人才会收集用户的位置信息,除此情况外,它不会收集任何新的位置信息。

  “与所有的人工智能聊天机器人一样,我们的人工智能机器人也一直在学习,但偶尔也会做出错误的回答。”

  针对无法删除该功能的问题,发言人则表示,用户确实无法删除人工智能机器人聊天功能,但用户都能够提交报告,让我们改进这个机器人。

  “人工智能机器人内已经安装了安全程序,我们还把我们的人工智能机器人集成到了我们的家庭中心,这样家长就不难得知自己的孩子是否在和它聊天以及聊天的频率是多少。”

  “用户在用AI机器人之前,还会看到一个弹出窗口,这个窗口会提醒他们这是一个有趣的聊天机器人,并建议他们注意它的局限性。”

  “如果用户遇到任何不恰当或者不正确的回答,都能够最终靠APP内的工具报告给我们,这样我们就可以一直在改进它。”

  在此也提醒各位家长,为了孩子的身心健康着想,一定要及时关注孩子的社会化媒体使用情况!