2月24日，本日头条在北京举行平台管理开放日，缭绕AI谎言、同质化发文、收集欺骗等热议的收集管理核心，与会高朋独特分享本日头条从前一年来在保险管理、内容生态等方面的过细举动及无效教训。 运动现场，本日头条相干营业担任人与学界专家纷纭宣布报告，对比年来AI谎言与AI技巧管理等议题赐与了高度存眷。 本日头条生态管理经营担任人韩雨桐先容称，平台很早就存眷到AI谎言等情形、成绩的呈现，更针对性进级、迭代了AI模子的辨认才能。在四位一体防备工事外，还树立起了包含谎言库、威望信源库以及专业考核团队在内的三年夜中心管理才能，片面优化了AI谎言的防控程度，增强了对AI谎言、低质内容的牢靠管理跟管控。 会上，清华年夜学消息与传布学院副教学陆洪磊分享了题为《AI谎言管理：多方合力的数字战斗》的报告，在聚焦AI谎言发生配景及特色。他指出，随同AI技巧的进一步利用，天生式AI正在重塑收集信息的传布生态，表现在内容端就是AI谎言的日益猖狂。在AI的加持之下，谎言实现了分平台、分渠道、分时段、分前言的定制化宣布，为收集情况带来了愈加严格的跨平台影响。其昂贵的本钱跟倍率传布特征，使得造谣难度年夜幅增添。而AI技巧自我进修跟自我强化的特征，婚配AI天生图片等造假手腕，使得AI谎言越来越真切，对内容平台来说这无疑是一场须要特殊存眷的“退化危急”。清华年夜学消息与传布学院副教学陆洪磊 怎样应答这一新的态势，陆洪磊以本日头条为例，指出本日头条平台所采用的“内容管理轨制、内容考核、造谣教导、表里联动”四位一体防备工事，为AI谎言的管理供给了一条存在可行性的开展之路。 现实证实，本日头条对AI谎言的相干管理举动行之有效。未几前本日头条宣布的《2024年度管理讲演》中表现，停止2024岁尾，本日头条平台已处置低质AI内容超93万条，禁言、封禁相干账号超2.9万个，用户对于低质AI内容的负反应量级从28条/天降到了2条/天，无效克制跟袭击了AI谎言的传布链条与传布温床。 陆洪磊以为，AI谎言的管理难以依附单一力气来实现，须要联动各方树立谎言线索互通机制。在协同管理方面，平台须要做好技巧的守门员，增强跨平台造谣配合，破解AI谎言的“deepfake”圈套；平台也能够斟酌推出“现实疾速核验通道”，激起用户的反谎言认识，便于停止谎言的传布。法律机构须要做好法治保证的护盘手，放慢相干执法细则的出台跟落实，树立“技巧取证-电子证据-司法判定”的全链条法律尺度；而每位网平易近则都应该成为感性的受者跟传者，转发前思考三秒，剖析一下信息起源能否实在、逻辑能否公道、能否属于引诱内容等，并对可疑内容自动停止核实。 陆洪磊总结道，魔高一尺，道高一丈。当网友发明AI图片中的异样字母时，他们会在批评区自发构成的“本相拼图”，这恰是协同管理最活泼的注脚。