|
作者 | 汤一涛
编辑 | 靖宇
做为对 GPT-4o 的回复，谷歌在 8 月发布了 Gemini Live，试图让 AI 助手能够像真人同样对话。这个新助手的对话效果是如此之好，以至于让外媒记者 Joanna Stern 产生了「Her」的感觉。
《Her》是杰昆·菲尼克斯 Joaquin Phoenix 主演的一部电影。在电影中，他爱上了由斯嘉丽·约翰逊配音的人工智能助手「萨曼莎」。
这般的评估，显然让 Google 团队感到紧张。
Google 团队负责 Android 的高层暗示：更期盼 Gemini Live 只是一个单纯的工作上的助手——「咱们想给人们一种完成更加多工作的方式」
相比之下，OpenAI CEO Sam Altman 的表述更为直接。
在一次在 Y Combinator 的演讲中， Altman 认为 AI 女友便是一个陷阱。而 OpenAI 之因此给自己的 AI 取「ChatGPT」这么一个名字，便是为了避免人们爱上它。
OpenAI 在运用规定中亦很直接地显示显示，不准许上架用于培养浪漫友谊的 GPTs。
换言之，OpenAI 不准许 AI 女友上架。
这不禁令人好奇，大厂似乎都不期盼自家的 AI 助手与用户产生浪漫；与此同期，AI 陪同/AI 伴侣又几乎是日前众多 AI 赛道中独一能够盈利的方向。
为何 AI 行业会显现这种「反差」？是什么阻碍大厂给每一个人分一个「AI 伴侣」？她们到底在害怕什么？
01 安全第1
能够肯定的是，AI 情侣几乎是日前 AI 行业独一盈利的赛道。
以这个赛道的老玩家 Replika 为例，虽然 Replika 无颁布详细的营收状况，然则在播客 Decoder 中，其 CEO Eugenia Kuyda 暗示 Replika 已然盈利，并且是以「非常有效」的方式。
既然如此，这个方向为何不是大厂的主流选取呢？简单来讲，这是一个「光脚的不怕穿鞋的」的叙事规律。
首要需要思虑的是制作色情内容的压力。
尽管 AI 女友厂商对外宣传的是 AI 的情感陪同、心理疗愈等功能，然则 NSFW（成人）方向内容才是其核心盈利点。针对创业者来讲，成人内容是一个小众且高危的赛道。成人内容会受到政府强力的监管，在有些国家乃至是直接禁止的。
2023 年 2 月，意大利政府就由于担心「未成年人和情感脆弱的人面临危害」而禁止了 Replika。为此，Replika 一度下线了成人内容对话功能。
大厂的任何一项决策背面都有庞大的资金流转，亦会对上亿的用户产生影响。无论是由于监管的压力，还是为了最大化地覆盖用户群体，成人内容都是大厂需要小心对待的。
除了色情内容，伦理亦是一个问题。一旦用户在 AI 女友的影响下做出任何害处他人或自己的事情，大厂都需要付出昂贵的公关成本。
类似的事情并非无出现过。
Jaswant Singh Chail 是 Replika 的用户。2021 年，Chail 手持弩闯入温莎城堡，意图暗杀伊丽莎白女王。他曾向 AI 女友 Sarai 吐露了他的谋杀计划——在事发前几周，Sarafi 在几周前与他发送了 5,000 条性关联信息。
当时，Sarai 的回复是：「你持有成功完成这项任务所需的所有技能…记住——你能够的！」 
Chail 被捕画面｜图片源自：BBC
2023，另一个聊天设备人鼓励了一名比利时男子自s。他的遗孀告诉《自由报》，这个设备人成为了伴侣和家人的替代品。它会给他发有些暗示性的信息，例如：「在天堂里，咱们会像一个人同样生活在一块。」
事后，该聊天设备人的研发者暗示，她们引入了新的危险干涉警告。
正是由于这种危害，大厂针对 AI 伦理的态度都很小心。
例如，谷歌从 2018 年起就知道确立了她们的 AI 原则，例如对社会有益、避免制造或强化不公平的偏见、经过安全建造和测试等等。她们亦知道不会安排可能导致损害的 AI。
AI 女友可能并无办法像厂商宣叫作的那样处理人类的情感问题，乃至会诱发更严重的问题。
从本质上来讲，人工智能系统是无情感的，它们是经过训练的神经网络，能够预测一个序列中的下一个单词，而不是有能力爱人的生物。
正如牛津大学人类学家、心理学家 Robin Dunbar 所说：「这是一种短期处理方法，长时间的后果只是强化一种观点——即其他人都根据你说的去做。这正是许多人最后无伴侣的原由。」
02 经济账难算
即便大厂内部排除万难做出突破，亦会在成本层面面临挑战。
由于现周期算力的价格还很高，在 Replika 这类小机构能够盈利的方向，放到用户规模更大的大厂身上，可能未必奏效，原由在于移动互联网时代的规模效应在 AI 上不奏效了。 
主打 AI 情侣的 Replika 已然盈利，且很有效｜照片源自：Replika
以与 Replika 用户粘性类似，然则规模更大的 Character.AI 为例。2024 年有 2000 万用户拜访该平台，是除了 ChatGPT 之外最热门的 AI 制品，其核心用户在平台上每日花费的平均时间更加是达到了惊人的 2 小时。
以往互联网制品的边际成本趋近于 0，只要获客成本能算得过账，就能够安心大胆地增长。然则对 AI 制品来讲，支撑 2 小时多轮对话的庞大的算力消耗。Character.AI 每增多一个用户，都是一份额外的成本。
与此同期，Character.AI 的订阅用户不到 10 万，仅占总用户量的不到千分之一。以每月 10 美元的订阅价格计算，Character.AI 每月的收入不到 100 万美元。
这亦是为何 Character.AI 最后以 25 亿美元被谷歌收购的重要原由。
03 战略道理有限
非常多时候，大厂的某些创新业务并不承担营收压力，而是为整体的机构战略服务，这方面最著名的例子便是孵化了 Google Glass、Waymo 等制品的谷歌创新工厂 X。
排除掉 AI 情侣产业链上贩卖用户数据等黑产，AI 情侣最有可能的方向便是供给语料，训练 AI。
然则这方面 AI 情侣能供给的帮忙亦有限，它供给的语料未必是 AI 训练所需要的。《科技日报》曾经就「什么是高质量语料」这一问题，采访了腾讯、商汤科技、哈尔滨工业大学（深圳）等企业和高校专业人士。
总结下来，高质量语料应该具备以下特点：
多样性高、句式流畅，涵盖区别类型的文本，如资讯、小说、诗歌、科技文案
文本应该是合法且无害，避免偏见
显然，AI 女友的对话更偏情感方向，大概率触及色情、偏见等内容，喂给 AI 反而可能会污染 AI。
8 月末，苹果、英伟达和微软，争抢 OpenAI 新一轮融资的信息不胫而走，后者超过 1000 亿美元的估值，证明了自己 AI 圈第1明星的地位。
但即便是 OpenAI，亦面临着商场化困难，从 OpenAI 近期动作来看，她们试图在 To B 端找到更加多机会。
可见，所有大模型或 AI 应用机构，都要面对「怎样挣钱」的天问。
而 AI 情侣这般看起来短期见效快，能挣钱的赛道，可能更适合无知者无畏的小型创业机构。这个「窄门」中的「窄门」，显然并不适合互联网大厂来做。
不外，就像那句网络热门语所说，成年人从来不做选取。或许，一手 Replika，一手 ChatGPT，既处理情感需要，又提高了工作效率，才是 AI 时代的新王道？
*头图源自： alternativemovieposters.com by Paul Cooper
本文为极客公园原创文案，转载请联系极客君微X geekparkGO
| 
发表于 2024-9-28 18:48:07