AIGC 场景下的安全风险与防控措施

AIGC 风险主要集中在内容和合规上：一是模型幻觉，生成虚假信息；二是敏感 / 违规内容，涉黄涉政；三是版权侵权，照搬训练数据；四是被恶意滥用生成诈骗信息。防控要从技术和流程两手抓：先做内容审核，用关键词、模型检测过滤违规内容；再做模型安全对齐，限制输出边界；生成内容要事实核查，尤其是新闻、知识类；还要加数字水印、原创检测，保护版权。重要场景一定要加人工复核，既保证创意，又守住安全底线。