感知日照 | 如何打破AI的谎言?
2025-04-23 15:28 市场监管高新分局
从政府视角看,AI的发展如同高山之水涌向平原,其势在时代发展的加持下已不可阻挡,加以节制可灌溉万亩良田,任由其发展则可能酿成祸患。各相关部门应在日常监管中,不断探索保障人民群众合法权益、规范AI行业有序健康发展的有效途径。近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局就联合发布了《人工智能生成合成内容标识办法》,从政府监管层面对AI生成信息作出要求,聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为。
从企业视角看,AI行业既是时代发展的红利产业,更是千帆竞发、百舸争流,竞争压力随着大量企业的涌入和技术的更迭水涨船高,要从中脱颖而出,就必然要顺应时代的发展要求,克服“AI幻觉”便是其中的应有之意。一方面,要优化输出内容,进一步规范AI调用数据的准确性,从根源消除错误信息,另一方面,要向用户明确提示AI生成内容是否真实,及时向用户发出警示。