安全评估

需要填写的表单: 1.开展评估情况(单选) 选择:使用新技术新应用,使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更,导致舆论属性或者社会动员能力发生重大变化

说明:本应用使用生成式AI技术为用户提供沟通辅助服务,根据《生成式人工智能服务管理暂行办法》要求进行安全评估。

填写内容:

(1)安全管理负责人

安全第一责任人(法定代表人): 姓名:【法人姓名】 职务:法定代表人 手机号:【法人手机号】 邮箱:【法人邮箱】 身份证号:【法人身份证号】

安全技术负责人: 姓名:【技术负责人姓名】 职务:技术负责人 手机号:【技术负责人手机号】 邮箱:【技术负责人邮箱】

安全管理责任分工: 公司法人为安全第一责任人,技术负责人为安全技术负责人。开发岗位负责代码安全和漏洞修复,运营岗位负责内容审核和违规处置,运维岗位负责系统维护和日志监控。

联系方式: 公司地址:深圳市南山区深圳湾科技生态园西区二区 7 栋 B 座西侧 7 层 客服邮箱:service@zhima.chat 企业微信客服:https://work.weixin.qq.com/kfid/kfcad8cf00ec6dee99f

(2)用户真实身份核验及注册信息留存措施

身份核验方式:

  1. 手机号验证:用户注册时通过短信验证码验证手机号真实性
  2. 微信授权登录:通过微信开放平台的登录认证获取用户身份信息
  3. 设备记录:记录用户注册设备信息用于账户安全验证

留存信息内容: 用户名、昵称、手机号码、微信open_id、注册时间、注册IP地址、注册设备信息(设备型号、操作系统版本、设备标识符)、短信验证记录、微信授权信息

存储方式: 手机号和微信open_id存储在数据库用户表中,敏感信息采用加密存储,数据存储在境内服务器,实行访问权限控制,仅授权技术人员可访问。

留存期限: 用户注册信息在账户存续期间保存,账户注销后保留不少于6个月用于安全审计和配合执法调查。

(3)对用户账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息,以及用户发布信息记录的留存措施

日志记录内容: 通过数据库记录以下信息:用户ID、用户名、账户状态、操作时间(精确到秒)、操作类型(登录、退出、使用AI功能、上传截图、修改账户信息等)、IP地址、访问端口、设备型号、设备品牌、操作系统版本、设备标识符、屏幕分辨率、设备语言。用户使用AI功能的记录包括功能类型、使用时间、处理结果,不保留具体聊天内容,仅保留操作元数据。

留存措施: 日志信息保留不少于6个月,涉及违规行为的保留不少于1年。日志存储在数据库中,定期备份,仅安全管理负责人和授权技术人员可访问。

查询功能: 技术人员可通过数据库查询功能,按时间范围、IP地址、用户账号、操作类型等条件查询日志,支持组合查询,用于追溯用户行为和配合执法调查。

(4)对用户账号和通讯群组名称、昵称、简介、备注、标识,信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施

应用功能说明: 本应用是个人使用的AI沟通助理工具,用户之间完全隔离,不具备用户间通讯、群组聊天、内容发布、转发、评论等社交功能。用户生成的内容仅用户本人可见,不会在应用内传播。

涉及内容安全的场景:

  1. 用户昵称
  2. 用户上传的聊天截图
  3. 用户键入的文字内容
  4. AI生成的聊天回复建议

防范措施:

用户昵称防范: 采用黑名单关键词过滤机制,禁止使用涉政、涉恐、色情、暴力等违规词汇作为昵称。昵称设置时进行关键词检测,包含违禁词的昵称无法保存。定期更新黑名单词库。发现违规昵称要求用户修改,拒不修改的账户限制使用。

用户上传截图、键入文字、AI生成内容的防范: 接入的AI大模型服务商(字节豆包)已通过《生成式人工智能服务管理暂行办法》的安全评估和备案,对用户输入内容和AI生成内容进行安全检测,包括敏感词过滤、语义分析、图像识别。当检测到违法有害信息时,系统拒绝生成回复并提示用户。应用侧记录所有操作日志,便于事后审计和追溯。

处置措施: 发现或收到举报的违规内容,立即阻止相关功能使用。对违规用户根据情节采取警告、限制功能、封禁账户等措施。对于严重违法信息(涉恐、涉政等),立即向公安机关和网信部门报告。

记录保存: 违规记录包括用户账号信息、操作时间、IP地址、设备信息、违规内容类型、处置时间、处置措施、处置结果。违规记录保存不少于1年,涉及刑事案件的记录根据执法部门要求延长保存。可应执法部门要求提供违规记录数据。

(5)个人信息保护以及防范违法有害信息传播扩展、社会动员功能失控风险的技术措施

一、个人信息保护措施

数据加密存储: 用户个人信息(手机号、微信open_id、设备标识符等)采用加密算法加密存储。数据库密码每月更换一次,服务器访问密码定期更换,严格控制访问权限。

数据传输加密: 采用HTTPS/TLS加密协议进行数据传输,客户端与服务器之间的通信经过加密处理。

访问权限控制: 数据库访问仅限授权技术人员,所有访问行为记录备查,不同岗位人员只能访问履行职责所需的最小数据范围。

数据本地化: 所有用户数据存储在境内服务器,不进行跨境数据传输。

用户权利保障: 用户可查看、修改、删除自己的个人信息,可注销账户,注销后个人信息删除或匿名化处理。用户可撤回非必要权限授权。

二、防范违法有害信息传播措施

关键词黑名单: 提供黑名单功能,可设置禁用关键词,涵盖涉政、涉恐、色情、暴力、赌博等违规关键词。对用户昵称、输入内容进行关键词检测,定期更新黑名单词库。

终端信息和行为记录: 记录用户使用的终端信息(设备型号、操作系统、设备标识符、IP地址等)和上网行为信息(登录时间、操作类型、访问频率等)。通过行为分析识别异常账户和可疑操作(如频繁更换设备、异地登录等)。

内容安全审核: 依托AI大模型服务商的内容安全审核能力,对用户输入和AI生成内容进行安全检测,拒绝生成违法有害信息。对可疑内容进行标记和记录。

传播限制: 应用不具备用户间通讯、内容发布、转发、分享等功能,从技术上阻断了内容在应用内传播的可能。用户生成的内容仅用户本人可见,不会在应用内扩散。限制单个账户的操作频率,防止批量操作和滥用。

三、防范社会动员功能失控风险措施

功能限制说明: 本应用是个人使用的AI沟通助理工具,不具备群组聊天、广播消息、内容发布、转发等社会动员相关功能。用户之间完全隔离,无法进行互动。

技术保障: 从产品设计和技术架构上排除了社会动员功能,应用内容不具备传播扩散能力。如发现用户试图利用应用进行违法违规活动,立即采取账户封禁等措施并向相关部门报告。

(6)是否建立投诉举报机制

举报渠道: 客服邮箱:service@zhima.chat 企业微信客服:https://work.weixin.qq.com/kfid/kfcad8cf00ec6dee99f 应用内举报功能(规划中)

处理机制: 用户可通过上述渠道举报违法违规内容或账户,技术人员在24小时内核实处理,并在48小时内向举报人反馈处理结果。

(7)建立为监管部门和执法部门依法履职提供技术、数据支持和协助的工作机制的情况

应用保留用户180天内的使用记录,包括用户账号、操作时间、IP地址、设备信息等。

可提供的数据包括:用户注册信息(手机号、微信open_id、注册时间、注册IP、注册设备)、用户操作日志(登录记录、操作类型、操作时间、IP地址、设备信息)等。

接到监管部门的合法调取要求后,技术人员可从数据库中查询并导出相关数据。