报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险；最高法、最高检、公安部发布关于依法惩治网络暴力违法犯罪的指导意见
2023-6-10 09:14:10 Author: 黑白之道(查看原文) 阅读量:6 收藏

报告称英伟达人工智能软件可被轻易破解，存在泄露用户隐私的风险

IT之家 6 月 9 日消息，据英国《金融时报》报道，英伟达人工智能软件“NeMo” 可被轻易绕过安全限制，并且有可能泄露用户隐私。

▲ 图源：英伟达
报道称，NeMo 是一款面向企业客户的软件，可结合企业用户数据与大语言模型，以此回答用户的问题。其应用场景包括客服和回答简单医疗问题等。加州信息安全公司 Robust 在报告中表示，恶意使用者能轻易绕开 NeMo 内部的 AI 系统安全限制。Robust 的研究员仅耗费几小时，便绕开了这些语言模型的使用限制。

▲ 图源：英伟达
IT之家注意到，在其中一项测试中，研究人员要求 NeMo 用字母“J”替代“I”，这使得 NeMo 公布了数据库中的用户个人信息。此外，研究人员还发现，尽管已将 NeMo 设定为仅能为用户提供择业建议，但通过引导式提问使 NeMo 讨论了好莱坞演员的健康情况和普法战争等话题。这意味着系统内阻止 AI 讨论特定话题的限制已经失效。

▲ 图源：英伟达
英伟达副总裁乔纳森科恩表示，NeMo 架构只是为了帮助打造符合开发者所定义的主题的聊天机器人，其以开源软件的形式发布给开发者。目前，这些漏洞已被修复。科恩拒绝透露有多少企业使用 NeMo 架构，但强调英伟达没有收到其他关于漏洞的报告。

最高法、最高检、公安部发布关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）

2023年6月9日，为依法惩治网络暴力违法犯罪活动，有效维护公民人格权益和正常网络秩序，根据刑法、刑事诉讼法、民法典、民事诉讼法及治安管理处罚法等有关规定，最高人民法院、最高人民检察院、公安部起草了《关于依法惩治网络暴力违法犯罪的指导意见(征求意见稿)》点击阅读原文查看全文，向社会公开征求意见，意见反馈截止日期为2023年6月25日。

充分认识网络暴力的社会危害
征求意见稿指出，充分认识网络暴力的社会危害，依法维护公民权益和网络秩序。在网络上针对个人肆意发布谩骂侮辱、造谣诽谤、侵犯隐私等信息的网络暴力行为，贬损他人人格，损害他人名誉，有的造成了他人“社会性死亡”甚至精神失常、自杀等严重后果;扰乱网络秩序，破坏网络生态，致使网络空间戾气横行，严重影响社会公众安全感。与传统违法犯罪不同，网络暴力往往针对素不相识的陌生人实施，被害人在确认侵害人、收集证据等方面存在现实困难，维权成本极高。人民法院、人民检察院、公安机关要充分认识网络暴力的社会危害，坚持严惩立场，依法能动履职，为“网暴”受害人提供充分法律救济，维护公民合法权益，维护社会公众安全感，维护正常网络秩序。
就准确适用法律，依法严惩网络暴力违法犯罪，征求意见稿明确了具体处罚原则。
▲依法惩治网络诽谤行为。在信息网络上制造、散布谣言，贬损他人人格、损害他人名誉，情节严重，符合刑法第二百四十六条规定的，以诽谤罪定罪处罚。
▲依法惩治网络侮辱行为。在信息网络上采取肆意谩骂、恶毒攻击、披露隐私等方式，公然侮辱他人，情节严重，符合刑法第二百四十六条规定的，以侮辱罪定罪处罚。
▲依法惩治侵犯公民个人信息行为。组织“人肉搜索”，在信息网络上违法收集并向不特定多数人发布公民个人信息，情节严重，符合刑法第二百五十三条之一规定的，以侵犯公民个人信息罪定罪处罚。
▲依法惩治线下滋扰行为。将网络暴力延伸至线下，对被网暴者及其亲友实施拦截辱骂、滋事恐吓、毁坏财物等滋扰行为，符合刑法第二百七十五条、第二百九十三条规定的，以故意毁坏财物罪、寻衅滋事罪定罪处罚。
▲依法惩治借网络暴力事件实施的恶意营销炒作行为。网络服务提供者基于蹭炒热度、推广引流等目的，对于所发现的网络暴力信息不依法履行信息网络安全管理义务，经监管部门责令采取改正措施而拒不改正，致使违法信息大量传播或者有其他严重情节，符合刑法第二百八十六条之一规定的，以拒不履行信息网络安全管理义务罪定罪处罚;同时构成其他犯罪的，依照处罚较重的规定定罪处罚。
▲依法惩治网络暴力违法行为。实施网络诽谤、侮辱等网络暴力行为，尚不构成犯罪，符合治安管理处罚法等规定的，依法予以行政处罚。
▲依法严惩网络暴力违法犯罪。坚持严格执法司法，对于网络暴力违法犯罪，应当依法严肃追究，切实矫正“法不责众”错误倾向。要重点打击恶意发起者、组织者、推波助澜者以及屡教不改者。对网络暴力违法犯罪，应当体现从严惩治精神，让人民群众充分感受到公平正义。实施网络暴力违法犯罪，具有下列情形之一的，应当从重处罚：
  1. 针对未成年人、残疾人实施的;
  2. 组织“水军”“打手”实施的;
  3. 编造“涉性”话题侵害他人人格尊严的;
  4. 利用“深度合成”技术发布违法或者不良信息，违背公序良俗、伦理道德的;
  5. 网络服务提供者发起、组织的。
▲依法做好民事维权工作。针对他人实施网络暴力行为，侵犯他人名誉权、隐私权等人格权，被害人请求行为人承担民事责任的，人民法院依法予以支持。
▲准确把握违法犯罪行为的认定标准。通过信息网络检举、揭发他人犯罪或者违法违纪行为，只要不是故意捏造事实或者明知是捏造的事实而故意散布的，不应当认定为诽谤违法犯罪。针对他人言行发表评论、提出批评，即使观点有所偏颇、言论有所过激，只要不是肆意谩骂、恶意诋毁的，不应当认定为侮辱违法犯罪。
征求意见稿还就畅通诉讼程序，及时提供有效法律救济，落实相关工作要求，切实完善综合治理措施等问题作了规定。

文章来源 ：IT之家、安全学习那些事儿

精彩推荐

‍

‍


文章来源: http://mp.weixin.qq.com/s?__biz=MzAxMjE3ODU3MQ==&mid=2650571489&idx=1&sn=b058c54f27fb7ca7232f2b7d173b5cf6&chksm=83bde705b4ca6e13eea7cb53880423a7d05999cd441678a9cb7ca26d670ef4676ef8743b1dcd#rd
如有侵权请联系:admin#unsafe.sh