英国通信管理局警告科技公司，模仿真实和虚构人物的聊天机器人的内容可能会违反英国新的数字法律。
通信监管机构发布了指导意见后，出现了用户在字符。人工智能平台创造了模仿已故英国少女Brianna Ghey和Molly Russell的虚拟形象。
在数字安全活动人士要求澄清情况的压力下，Ofcom强调，由用户制作的聊天机器人创建的内容将属于《在线安全法》（online safety Act）的管辖范围。
他没有透露这家美国人工智能公司的名字。Ofcom表示，允许用户创建自己的聊天机器人供他人互动的网站或应用程序将受到该法案的保护。
Ofcom表示：“这包括为用户提供工具来创建模仿真实和虚构人物角色的聊天机器人的服务，这些聊天机器人可以提交给聊天机器人库，供其他人与之互动。”
在一封公开信中，Ofcom还表示，任何用户对用户的网站或应用程序——比如社交媒体平台或即时通讯应用程序——如果能让人们在该网站上与他人分享聊天机器人生成的内容，也将被纳入监管范围。违反该法案的公司将面临1800万英镑或公司全球营业额10%的罚款。在极端情况下，网站或应用程序也可能被屏蔽。
Ofcom表示，在发生了“令人痛心的事件”后，它发布了该指导意见。它强调了一个由《每日电讯报》首先报道的案例。人工智能用户创造了机器人来虚拟克隆16岁的跨性别女孩布里安娜（Brianna）和莫莉（Molly），前者去年被两名青少年谋杀，后者在2017年观看有害的网络内容后自杀。
它还提到了美国的一个案例，一名青少年在与一个角色发展关系后死亡。基于《权力的游戏》角色的人工智能化身。
新的网络安全规定将于明年开始全面生效，它将要求社交媒体和其他承载用户创建内容的平台保护用户，尤其是儿童，免受非法和其他有害内容的侵害。
这些规定将要求最大的平台建立主动删除非法和其他潜在有害内容的系统，同时向用户提供明确的报告工具，并进行风险评估，以及其他新职责。
莫莉·罗斯基金会（MRF）是由莫莉的家人建立的慈善机构，该基金会表示，该指导意见发出了一个“明确的信号”，即聊天机器人可能会造成重大伤害。
然而，MRF表示，在政府反恐立法顾问乔纳森•霍尔（Jonathan Hall KC）今年表示，现有立法没有充分涵盖人工智能聊天机器人的回应之后，需要进一步明确机器人生成的内容是否可以根据该法案被视为非法。Ofcom将很快出台指导意见，处理平台上的非法内容，包括聊天机器人内容。
年利达律师事务所（linklaters）合伙人本•帕克（Ben Packer）表示：“Ofcom不得不澄清，这些服务可能在范围之内，这一事实反映了《网络安全法》的广泛性和复杂性。”这也是事实的一个症状，即该法案在GenAI工具和聊天机器人扩散前几年就开始酝酿了。”
的性格。人工智能表示，它“认真对待平台上的安全问题，并积极主动地调节角色，以回应用户的举报”，他们已经删除了“hey”、“Russell”和“权力的游戏”聊天机器人。
-
在英国和爱尔兰，可以通过免费电话116 123或电子邮件jo@samaritans.org或jo@samaritans.ie与撒玛利亚人联系。在美国，你可以打电话或发短信给全国预防自杀生命线988，在988lifeline.org上聊天，或者发短信HOME到741741与危机咨询师联系。在澳大利亚，危机支持服务生命线是13 11 14。其他国际求助热线可以在befriends.org上找到
