埃隆马斯克（Elon Musk）的人工智能初创公司xAI于8月14日在社交平台X上发布了一款新的聊天机器人Grok 2.0，并声称其性能可与其竞争对手OpenAI、谷歌和Anthropic匹敌。

报道显示，目前Grok 2.0的图片生成功能仍处于测试阶段，只有X平台的付费用户可以访问并使用图片或者文字提示词生成新的图片。X  AI称，该模型与较早的Grok 1.5相比“向前迈出了一大步”，减少了很多在生成图像类型方面的限制。

然而，该聊天机器人高度自由的文生图功能引发了大量争议。据科技媒体The Verge报道，X平台的付费用户在社交平台上发布了大量AI生成的虚假政治图片，包括美国前总统奥巴马吸食可卡因以及2024美国总统大选候选人唐纳德特朗普和卡玛拉哈里斯用枪互指等照片。与此同时，也有用户使用新的Grok创建出如海绵宝宝和米老鼠等受到版权保护的图像。

据美国媒体报道称，Grok 2.0在收到用户指令后能创建包括仇恨符号或种族主义图像等大量深度伪造的图片，虽然其中一些很容易被识别为计算机生成，但对于普通用户而言，部分图片乍一看可能像是真实的照片。

这加剧了民众对于社交平台上聊天机器人传播虚假信息的担忧。据美国商业媒体福布斯Forbes报道，在12日马斯克和特朗普在X上的对谈结束之后，Grok根据网友吐槽特朗普讲话含混不清的推文自动生成了一条“特朗普假牙不见了”的假新闻，并在X平台上得到广泛传播。本月初，多位美国前国务卿曾联合写信给马斯克，要求其监管聊天机器人在X上散布虚假大选信息。

据美联社报道，7月底马斯克因为转发了一条用AI伪造美国副总统哈里斯声音的视频引发了广泛批评。不久前，马斯克还曾因为转发Grok编造的伊朗袭击以色列的假消息推文而造成大量误解。

此外，Grok的训练数据来源也开始引发外界担忧和质疑。此前，多家欧盟数据监督机构表示正在调查xAI使用用户数据训练聊天机器人的行为。据Business Insider报道，X  AI并未公开其主要训练数据来源，但其拥有者马斯克曾在推文中表示Grok 聊天机器人在回复中带有“讽刺和小幽默”的风格，部分缘于它可以实时访问用户的推文。

相关数据显示，今年5月，xAI完成了60亿美元的B轮融资，估值达到180亿美元（约合人民币1287亿元）。马斯克本人最近表示，他正在寻求特斯拉董事会的批准，向该公司再投资50亿美元（约合人民币357亿元）。这将使这家初创公司的投资额接近其竞争对手OpenAI的130亿美元（约合人民币930亿元）。

据报道，X  AI称将在未来一个月内推出Grok-2 mini和供企业使用的开发者版本，以满足不同的使用场景和更多用户的需求。

转载请注明：可思数据 » X AI发布新型文生图聊天机器人，误导性政治和版权图像引争议