360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******

　　2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

　　在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

　　目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

　　报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

　　报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

　　为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。

　　在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。

　　作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。

　　随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。

动科普|交友变“交钱”？当心交友软件暗藏“诱导消费”******

　　 【万万没想到！App花样套路大解密④——交友平台篇】

　　一对一交友、秀场直播、语音陪玩、视频直播……近年来，社交交友类应用逐渐深入到终端用户的日常生活中。

　　然而，一些社交App打着交友名义进行“情感欺诈”，不仅侵犯了用户权益，更严重影响了网络生态。接下来，我们来盘点部分社交交友类App中暗藏的风险。

　　风险一：应用内存在低俗色情内容

　　①低俗挑逗性聊天内容

　　用户收到低俗挑逗性的聊天内容，包括充斥性暗示的文字、语音或是图片。

　　②社区内存在低俗色情内容

　　有些社交交友类应用具有用户社区或论坛模块，本意是为了增强应用的社交性，但部分社交交友应用缺少对社区论坛内用户发布内容的监管及审核，导致社区内出现低俗色情内容。

　　③用户个人简介中存在低俗色情内容

　　部分社交交友类应用对用户提交的个人简介等资料审核不严，在用户个人简介中存在低俗色情内容，包括但不限于使用含性暗示的图片或文字等，有些应用还存在为色情平台引流的情况。

　　风险二：应用内存在诱导付费行为

　　交友类应用常见产品模式是限制用户的发言次数或视频通话功能，需要用户付费充值使用。然而，部分交友应用在用户注册或登录后发送大量交友信息，或发送视频聊天等，通过一些不合规行为诱导用户付费。

　　①应用内的概率性游戏公示不合规

　　用户使用应用内代币参与游戏，最终能否获得更高代币价值的奖品，存在一定概率。按照规定，这类游戏需公示虚拟服务的名称、性能、内容、数量及抽取概率。但是一些应用没有公示明确的奖品抽取概率，诱导用户进行不理智的充值抽奖。

　　②主动弹出视频通话诱导用户付费

　　部分应用会主动弹出视频通话邀请，这些邀请往往来自于用户没有主动交流过的对象，在邀请页面会放上提前录制好的女性用户视频，诱导用户付费接听。更有甚者，在应用后台频繁弹出视频通话邀请。

　　③频繁发送定制化消息诱导用户付费

　　部分交友类应用还会限制用户发送消息，用户想要聊天需要付费充值。此类交友应用中存在给用户频繁发送大量聊天消息的现象，这类聊天信息有明显的话术痕迹，通过这种方式增加用户的留存率，诱导用户充值发言。

　　风险三：应用内存在擦边博彩的游戏玩法

　　一些交友类应用在应用内设置概率性游戏，比如，抽奖、砸金蛋、盲盒机等。这种游戏玩法跟博彩趋同，充当赌注的虚拟道具或货币最终会与现实货币挂钩。

　　①用户通过充值获得代币参与概率性游戏

　　部分社交交友类应用存在转盘抽奖等概率性游戏。用户通过充值获得代币，如积分、钻石一类的应用内货币，可以用于参与此类概率性游戏。

　　有部分应用设置了只能用于参与概率性游戏的代币，应用内的代币目的是为了购买娱乐性、表演性服务，但当代币只用于概率性游戏时，其目的已经偏离了代币的初衷。

　　②应用存在将概率性游戏奖品变现的途径

　　在用户参与概率性游戏获得更高价值的奖品后，擦边博彩的游戏玩法还会存在用户能将此类奖品变现的途径，使得当赌注的虚拟道具或货币最终与现实货币挂钩。

　　比如，用户通过将代币、虚拟道具等打赏赠送给自己账号，最终可以将参与游戏获得的奖品折换成现实货币。

　　风险四：应用的青少年模式不合规

　　部分交友类应用提供了直播服务，按照相关规定应设置青少年模式，禁止未成年人观看直播和充值打赏。然而，这类应用的青少年模式大多形同虚设。

　　①没有提供青少年模式

　　部分应用提供直播服务，有打赏功能，但是这类应用以未成年身份注册时能正常使用，且不会对用户进行限制和提示用户开启青少年模式。应用内也找不到青少年模式的开关。

　　②青少年模式无效

　　部分应用虽然有青少年模式的开关，但在青少年模式下应用内容和功能都没有明显变化，同样可以观看直播，进行充值付费打赏等。

　　风险五：应用的实名认证功能不合规

　　交友类应用通过实名认证：一是可以确保用户的真实性，更有利于平台监管；二是可以有效预防网络诈骗；三是严格的实名认证机制能起到保护青少年，为未成年人提供良好网络环境的作用。

　　然而，有部分交友类应用的实名认证并没有验证审核，用户提交虚假资料也可以通过认证，还有部分应用没有实名认证机制。

　　专家提醒

　　内容安全是互联网企业的生命线，也是互联网行业的行为底线。网络社交平台在为用户提供人际互动良好体验的同时，也容易助长一些违法犯罪和社会不良现象。对于用户来说，要以健康的心态参与网络平台社交互动，切忌抱着“猎奇”“猎艳”等不良心态，避免落入犯罪分子编织的“陷阱”。与此同时，平台应加强监管治理，切实担负起主体责任，维护行业良好秩序。（部分内容综合自人民日报）

　　监制：张宁 策划：李政葳 制作：姚坤森