微信推内容安全助手小程序“珊瑚”：一键帮助鉴别风险

发表于 5年以前 | 总阅读数：659 次

6月21日消息，微信正式上线“珊瑚内容安全助手”（以下简称“珊瑚”）小程序，公众号运营者和小程序开发者可以通过小程序一键鉴别内容和产品的安全风险。

微信团队表示，将小程序命名为“珊瑚”，是因为珊瑚是一种对生活环境要求较高的生物，寓意小程序、开发运营者、平台与环境之间是共生共赢的关系，只有生态中各方共同努力，维护健康生态，产业环境才会越来越好。

据了解，“珊瑚”小程序将为运营者和开发者提供风险自测、内容鉴别、行业动态等三个维度的功能，由腾讯云提供技术支持。开发运营者可通过勾选自己的产品功能、各功能发布内容的情况，由“珊瑚”小程序自动计算给出产品风险评级、针对性的风险提示及相应的风险防控建议等，让开发运营者了解产品的安全风险。

在文字鉴别、图片鉴别模块，“珊瑚”小程序还可对用户上传内容中是否含有违法有害信息给出鉴别结果，同时提供能力介绍和接入引导文档，为开发运营者从“体验”、“理解”到“接入”，提供一站式安全能力服务。后续“珊瑚”小程序还将支持音频、视频鉴别能力，为用户提供更完善的内容安全服务。

此外，“珊瑚”小程序还包含定期更新的互联网行业内容安全动态、相关法律法规等内容，帮助开发运营者及时掌握行业情况。

据了解，2018年5月微信团队就向开发者开放了文字检查、图片检查两个API接口，辅助开发者及时发现不良内容信息。而在今年6月6日，微信上线了小程序内容安全的异步检查接口（mediaCheckAsync），基于腾讯“云鸮”技术支持，向开发者提供更高级、更强大的内容安全能力，包括异步方式检查图片、音频两种多媒体文件，自动识别色情、暴恐等违法有害高危内容，文件大小限制也从原来同步接口的1M提升到10M，满足常见格式和大小的图片审核需要。

未来，“珊瑚”小程序将基于腾讯云图像分析等AI技术，为广大小程序开发者提供更强、更丰富的内容安全能力，并持续运营、定期更新行业内容安全动态信息，帮助开发运营者了解最新的行业情况，共建健康繁荣的小程序生态。