发布时间：2024-11-24 01:04:52 点击量：
自chatgpt问世以来，人工智能行业高速发展，已成为当前社会一大主流趋势。然而，高速发展的新行业不可避免的带来一些弊端，生成式人工智能带来的风九游娱乐 九游娱乐官方险也日益显现。例如生成技术可能被用于制造虚假信息或进行网络攻击，对网络安全构成威胁;生成内容难以与真实内容区分，可能误导公众;AI生成内容可能触及道德和伦理底线，如生成违法或不道德的内容。其中与网民最息息相关的还是信息泄露问题，AI需要收集更多类型的用户信息作为“养料”，增加了个人信息泄露的风险。
在此背景下，中国信息通信研究院(简称“中国信通院”)联合抖音、百度、阿里巴巴、科大讯飞、合合信息等科技企业，共同参与了《生成式人工智能个人信息保护技术要求》系列标准(下称“标准”)的编制。
经过充分的研讨，《生成式人工智能个人信息保护技术要求》系列标准覆盖了生成式人工智能的设计、训练与应用三个阶段，主要围绕总则、隐私声明告知、训练数据构建、模型规制控制、供应链保障、二次开发管理、输出阶段管理、个人权利响应，共计从八个方面提出个人信息保护指引。
从用户角度看，标准的制定有利于保护个人合法权益;从企业发展角度看，标准为企业研发生成式人工智能降低了不确定性;从行业发展角度看，能为监管机构指导企业活动提供参考和依据，引导生成式AI行业健康发展。除此之外，标准也有利于企业积极承担九游娱乐 九游娱乐官方个人信息保护义务，为用户提供更安全、更可靠的信息服务。
在数据安全和隐私保护方面，合合信息积极响应号召，针对产品设计、运营多个维度建立起了一套标准完善的体系、流程、控制措施和规范，获得了多方认可。合合信息曾荣获上海市网信办“2023年度网络数据安全风险评估试点工作优秀单位”称号，旗下的扫描全能王、名片全能王、启信宝等产品在中国网络安全产业联盟(CCIA)数据安全工作委员会个人信息保护影响评估专题工作(简称“PIA专题工作”)中荣获“PIA二星级标识”。
此外，合合信息还发布了AI图像安全技术方案，包括AI图像篡改检测、生成式图像鉴别等重点技术，可用于对抗恶意的图像篡改、虚假生成图片和非法个人信息的获取。
科技向善不仅是一项理念，更是一个实践过程。合合信息将始终坚持拥抱创新，用技术的力量造福社会群众，发现潜在风险，积极寻求行业共识和解决方案，让人们在AI发展的高速列车上享受科技带来的便利生活。
