近期尝试的Gemini 2.0版本，在AI文生图的可控性方面取得了显著进展，用户可随心所欲调整图像。这一技术进步显著降低了制作图文并茂、真假难辨内容的技术门槛。尽管如此，该技术也带来了便利，但同时也提高了不实信息传播的风险，网络中可能出现更多虚假图文。
新技术推出后，部分心怀叵测者可能借助其功能制造虚假信息、误导性广告等。这导致普通用户在众多信息中难以辨识真伪，对网络信息生态构成潜在风险。
生成式AI的根本特性使其可能产出看似合理却存在错误的信息。这一现象被称为“AI幻觉”。AI模型通过数据训练形成结论，而数据的局限性和模型的不完善性都可能导致输出结果的偏差。此外，一般用户难以准确判断这些信息的正确与否。
在解答知识相关问题时，AI有时会构建出看似合理却不存在的信息，这可能导致用户对知识的误解。若用户未加辨别地采纳此类信息，其在学习或工作中可能会犯下错误。
在时事历史和社会热点领域，由于存在众多未填写的空白和创作空间，AI幻觉现象尤为严重。相关历史文献资料多年代久远，部分内容在传播过程中有所遗失。AI在训练数据的基础上进行“合理补充”，然而这些补充往往缺乏事实依据。
历史博主@知北遊收到网友提供的疑似AI伪造的文献，其文风虽与当时相符，但时间线和人物信息均存在错误。核实其真实性需借助外部资源，这反映出鉴别此类虚假信息的挑战相当严峻。
DeepSeek的流行促使众多用户开始使用生成式AI，这一过程中，出现了一种异常现象——众多用户将AI的言论视为正确无误。微博上，以DeepSeek为话题的热搜频繁出现，AI的言论已取代了往日的“专家观点”。在信息获取过程中，用户对AI的依赖程度日益加深，将其作为权威信息的来源。
普通民众在识别信息时面临日益增加的难度，由于无法在每个专业领域都成为专家，他们容易受到AI提供的错误信息误导，过分信任AI使得人们在接收信息时失去了独立思考和判断的能力。
博主@斯文稗类经过核实，发现模拟鲁迅的文心智能体提供的回答缺乏出处。随后，一些营销文章引用了这些回答，甚至出现了将“鲁迅说”篡改为“有人说”的荒谬现象。这一事件揭示了AI生成虚假信息的随意性，以及营销号对AI的不当使用。
频繁出现类似事件，营销账号为吸引注意，擅自使用AI生成虚假信息，导致网络传播秩序受到干扰，同时误导了公众。
在“后真相”时代，公众对情感和个人信念的重视程度提升，导致客观事实的影响力相对减弱。AI生成的内容，若具备吸引力，便有机会被传播，其真实性已不再成为关键考量。随着AI技术能够迅速产出大量真假难辨的信息，公众对单一信息源的依赖程度日益加深，这种现象相较于一般造假信息的危害更为严重，亟需引起警惕。
这并非AI的过错，而是人类对情感价值的追求使得AI变成了“扭曲的映照”。关于如何指导AI向健康方向发展，以及如何让公众正确看待AI生成的内容，这些问题亟待解决。
您如何看待人工智能可能引发的社会效应？欢迎在评论区发表您的观点。同时，请不要忘记点赞并转发本篇文章。
