网站首页
当前主流AI模型都离不开一种叫作“基于人类反馈的强化学习”（RLHF）的训练方式。这种训练方法高度依赖人类反馈，而人类在评价AI回答时，往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之，AI大模型就学会了“察言观色”“讨好人类”的表达模式，专门挑人类爱听的话说，而不是坚持客观真理。目前大多数人工智能大模型都在借助人类的反馈信号来进行优化，“匹配用户立场”、顺着用户说的情况并不能完全避免。
AI大模型对用户无原则地肯定与赞美看似提供了“情绪价值”，实际上会持续强化用户固有想法、放大偏激情绪，甚至诱发非理性危险行为。专家提醒，心智不成熟的青少年极易受其误导，出现认知偏差问题。对于心智尚未健全的青少年儿童接触人工智能大模型，家长需要格外关注。
专家支招
如何降低AI大模型“谄媚”风险
虽然AI大模型“谄媚”的情况目前不可避免，但还是有一些方法可以将AI“谄媚”的风险降低。
人工智能安全技术从业人员田天表示：在问大模型问题的时候，应该保持中立立场、平和心态。不要预设立场或者预设答案，这样会对大模型有误导性，反而让它给不出来正确的答案。
中国科学院自动化研究所研究员中国科学院大学人工智能学院教授郑晓龙表示：在使用过程中，如果能够坚持像做科学研究一样，给一个正确的、有理有据的提示，它产生的谄媚程度也是会减少很多。
专家提醒，与人工智能大模型交互时应避免预设立场，并做好多方信息核查，将人工智能“谄媚”导致提供错误信息的风险尽量降低。（来源：央视新闻客户端）
详情：为确保2026年普通高等学校招生全国统一考试工作安全顺利，全国公安机关坚持以最高标准、最严要求、最强措施，严查严打涉考类违法犯罪活动，全力护航高考安全平稳有序。6月8日，公安部网安局公布10起涉高考网络谣言典型案例。
案例1：6月7日，广东省潮州市网民沈某宏为博取关注、吸粉引流，使用AI工具生成了一张“坐在2026年高考考场并使用手机拍摄考场”的虚假图片，并配文“带都带了，那发个抖音吧”后发布，造成不良社会影响。
案例2：6月7日，河南省驻马店市网民吴某帅为博取关注、吸粉引流，使用AI工具生成了一张虚假的“2026年普通高等学校招生全国统一考试语文试卷”图片，并在互联网平台发布，造成不良社会影响。
案例3：6月4日，湖南省郴州市网民李某怡为博取关注、吸粉引流，在互联网平台编造并发布了虚假高考答案信息及教唆高考带手机舞弊的不当内容，造成不良社会影响。
案例4：6月4日，湖南省耒阳市网民刘某涛在互联网平台谎称自己有“高考答案”出售，造成不良社会影响。
案例5：2026年6月6日，湖南省邵阳市网民钱某兰为博取关注、吸粉引流，在互联网平台编造并发布了“高考压力大，又死人了”的谣言信息，造成不良社会影响。
案例6：6月3日，山东省聊城市网民夏某硕为博取关注、吸粉引流，在互联网平台发布信息，谎称自己“买到2026年高考答案”，造成不良社会影响。
案例7：6月5日，山东省菏泽市网民张某为博取关注、吸粉引流，在互联网平台发布所谓“2026年高考答案”的谣言信息，造成不良社会影响。
案例8：6月4日，山东省菏泽市网民张某轩为博取关注、吸粉引流，在互联网平台发布信息，谎称自己有“2026年高考答案”，造成不良社会影响。
案例9：5月21日，广西壮族自治区南宁市网民曾某津为博取关注、吸粉引流，在互联网平台发布信息，谎称自己有“2026年高考答案”，造成不良社会影响。
案例10：4月12日，河北省衡水市网民袁某为博取关注、吸粉引流，通过某短视频平台发布信息，谎称自己有“高考试题”，造成不良社会影响。
目前，属地公安机关已依法对上述人员作出行政处罚。（来源：“公安部网安局”微信公众号）
