向伪造视频开炮, 马斯克称 Grok 将具备检测 AI 生成视频的能力

IT之家10月13日消息，埃隆・马斯克宣布，其人工智能公司xAI开发的聊天机器人Grok将很快具备分析互联网视频的能力，以检测其中的人工智能生成痕迹（AI签名），并通过进一步研究追溯这些视频的来源。这一表态正值人们对利用人工智能生成内容进行冒充或发布诽谤性信息的担忧日益加剧之际。

IT之家注意到，一名X平台（前身为Twitter）用户10月9日在一篇帖子中表达了此类担忧：“在未来一两年内——很可能更早——任何讨厌你的人，都可以生成你做出或说出恶劣言行的虚假视频，而这些视频将与真实录像几乎无法区分，以至于你根本无法证明它是伪造的。目前没有任何措施被采取来阻止这种情况的发生。”

对此，马斯克回应称，Grok即将推出一项新功能。他写道：“@grok将能够分析视频比特流中的人工智能特征，并进一步搜索互联网以评估其来源。”

GrokAI聊天机器人随后提供了该功能可能运作方式的更多细节。据其介绍，该系统或将具备识别视频比特流中细微AI痕迹的能力，例如人类难以察觉的压缩异常或生成模式不一致等问题。此外，该聊天机器人还可能通过交叉比对元数据、来源轨迹以及网络足迹，来验证视频的真实性。

自2023年GrokAI发布以来，马斯克一直依赖这款聊天机器人，在OpenAI和谷歌主导的人工智能竞赛中争取一席之地。今年早些时候，马斯克还将xAI与社交媒体平台X合并，旨在加强两家公司之间的协同整合，使Grok成为该社交网站的核心组成部分。

目前，X平台用户已可调用Grok聊天机器人，对平台上发布的帖子进行事实核查。马斯克还计划彻底用Grok取代X现有的内容推荐算法，从而为用户提供更加个性化的信息流。

此外，Grok也是马斯克打造维基百科替代品——他称之为“Grokipedia”（Grok百科）——的核心工具。

今年早些时候，马斯克还向免费及付费用户推出了新版Grok视频生成器，进一步扩展了其AI产品的功能覆盖范围。