随着AI界聚集在首尔，一个快速发展的行业能否在进步与安全之间保持平衡？

卫报5月19日报道，本周，人工智能与未来接轨——至少与十年前好莱坞对未来的设想接轨了。OpenAI首席执行官山姆·阿尔特曼在谈到他最新的系统时写道：“这感觉就像电影中的AI。”为了强调这一点，他在X平台上发布了一个词——“她”，指的是2013年上映的电影《她》，该电影由华金·菲尼克斯主演，讲述了一个男人爱上一个由斯嘉丽·约翰逊配音的未来版Siri或Alexa的故事。

对于一些专家来说，这种新的AI——GPT-4o——会让他们不安，提醒他们对技术快速进步的担忧。就在本周，一位关键的OpenAI安全研究员因对公司方向的分歧而离职。对于其他人来说，GPT-4o的发布则是创新继续进行的证明，这一领域承诺带来普惠的利益。下周在首尔举行的全球AI峰会将汇聚各国部长、专家和科技公司高管，会上将听到这两种观点，正如会议前发布的一份安全报告所强调的那样，该报告提到了潜在的积极方面以及众多风险。

去年在英国布莱切利园举办的首届AI安全峰会宣布了一个国际AI模型测试框架，这是在一些关切的专家和行业专业人士呼吁暂停开发强大系统六个月之后做出的反应。并没有任何暂停。英国、美国、欧盟、中国等签署的布莱切利声明称赞了AI带来的“巨大全球机遇”，但也警告了其可能造成的“灾难性”危害。声明还确保了包括OpenAI、谷歌和马克·扎克伯格的Meta在内的大型科技公司承诺在发布模型之前与政府合作进行测试。

虽然英国和美国已经建立了国家AI安全研究所，但该行业的AI开发仍在继续。大型科技公司和其他企业最近都宣布了新的AI产品：OpenAI推出了免费的GPT-4o（o代表“omni”）；一天后，谷歌预览了一个新的AI助手，名为Project Astra，并更新了其Gemini模型。上个月，Meta发布了其自己的AI模型Llama的新版本，并继续以“开源”方式提供，这意味着它们可以自由使用和修改；而在三月份，由前OpenAI员工成立的AI初创公司Anthropic更新了其Claude模型，并在提供的能力上占据了领先地位。

美国证券公司Wedbush Securities的分析师丹·艾夫斯（Dan Ives）估计，生成式AI——这种最新构建智能系统的方法的统称——的支出热潮将在今年达到1000亿美元（790亿英镑），并且在未来十年内的支出将达到1万亿美元。更多的重要发展即将到来：OpenAI正在开发其下一个模型GPT-5，以及一个搜索引擎；谷歌正在准备发布Astra，并在美国以外地区推出AI生成的搜索查询；据报道，微软正在开发自己的AI模型，并聘请了英国企业家穆斯塔法·苏莱曼（Mustafa Suleyman）监督新的AI部门；据报道，苹果正在与OpenAI商谈将ChatGPT集成到其智能手机中；大量的AI投资正在注入各个规模的科技公司。

硬件初创公司如Humane和Rabbit正竞相开发AI驱动的智能手机替代品，而其他公司正在试验如何用一个人的生活数据来训练AI。美国初创公司Rewind正在销售一款产品，该产品可以记录你在计算机屏幕上进行的每一个操作，训练AI系统以详细了解你的生活。即将推出的产品是一款佩戴在衣领上的麦克风和摄像头，这样它甚至可以从你离线时的活动中学习。

Enders Analysis的高级分析师Niamh Burns表示，随着公司在数十亿美元投资的支持下试图赢得消费者的青睐，将会有一系列新产品面世。她说：“我们会不断看到这些引人注目的发布，因为技术是新的且令人兴奋，并且因为实际的消费者使用场景还没有确定下来。在找到用户角度上能够成功的东西之前，需要发布新模型甚至只是新界面——简而言之，与模型相关的东西。”

研究公司Forrester的分析师Rowan Curran表示，自布莱切利会议以来的六个月内已经出现了显著的变化，比如像GPT-4和Gemini这样的所谓“多模态”模型的出现，这意味着它们可以处理文本、图像和音频等多种格式。例如，2022年发布的GPT模型只能处理文本。“这确实为AI打开了许多可能性，”Curran说。“虽然我们已经看到了一些这样的模型，但我预计会有更多出现。”

Curran提到的其他近期突破包括视频生成模型的出现，如OpenAI的Sora，虽然尚未公开发布，但其演示已经足以说服电影和电视大亨泰勒·派瑞（Tyler Perry）暂停8亿美元的工作室扩建计划。此外，还有检索增强生成（RAG）技术，这是一种赋予通用AI专长的技术——例如，将视频生成器Sora变成动漫制作人，或教图像生成器StableDiffusion如何像毕加索一样绘画，或教聊天机器人专门研究科学论文。

一些人已经看到了一个将由少数富有公司主导的市场，这些公司能够负担构建和运行AI模型所需的巨大能源和数据处理成本。潜在的竞争者也被这些公司吸纳，这引起了英国、美国和欧盟竞争监管机构的关注。例如，微软是OpenAI和法国Mistral的支持者，而亚马逊则在Anthropic上投入了大量资金。

新闻来源：卫报            作者：Dan Milmo；Alex Hern

编辑：Audrey

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）