本文来自极客网,作者/小刀。
只要有足够的数据,深爱之人即使离开人世,我们也能让他们的意识活着。它是什么?可以叫它意识复制品,也可以叫它亡魂。利用ChatGPT和其它强大的大语言模型,我们可以为亡者创造一个让人信服的聊天机器人。不过当今世界资源仍然稀缺,如果想让亡者的意识复制品在线上持续存活,要投入大量人力,社会可能无法承担。
不要光看表面,生成式AI的幕后有很多工作量巨大、薪酬不高的注释者和内容审核员,因为他们的不断付出,自动系统才能维持运转。如果想让亡者的意识正常存活,恐怕也要付出同样的努力。拿到密码和账户信息后,你要替亡魂管理好数字不动产,还要照顾好日渐衰败的智能家庭,这绝不是易事。作为创造亡魂的内容创作者,他们不得不依靠大量的照看者,这些照看者在后端劳动;他们还要依赖人及非人实体网络,包括特殊操作系统、服务器,没有这些资源支撑,亡魂根本不可能存在太久。不只如此,内容创作者还要升级格式,让电子记录具备一些特性,比如可以搜索、实用、可以访问,还需要投入人力、精力和时间。对于档案管理者和机构来说上面所说的问题都很棘手,对于那些想复活爱人意识的个体来说任务也很繁重。
退一步讲,就算做到了,和人一样,设备、格式、网站也会有消亡的一天。虚拟世界的自动化家庭也许可以自主运转,网站也可以存在几个世纪,但这些东西都会按计划报废,最终导致系统不断衰弱。人类认为自己想要什么,期待别人做什么;在时间长河中让技术持续存在有什么现实意义,二者之间往往有很大的鸿沟。人和技术的死亡会导致系统最终停止运转。
之前有人尝试过,他们创造的亡魂AI验证了上述担忧。例如,2008年Intellitar推出的Virtual Eternity系统,它用图片、语音模式模拟人物个性,如果所爱之人离开人世,你很伤心,可以与虚拟人物聊天。试用者评价称:“产品极可能会把人弄哭。”因为这样的东西太诡异了!2012年Intellitar公司倒闭,没多久连网站也消失了。还有LifeNaut,它的目标是将基因、生物信息与个人数据流结合,一旦技术允许,就可以创造“完整”的人类。但是你去看看LifeNaut网站,用的还是过时的Flash软件,数字永生还很遥远,如果项目想持续存在,必须不断升级,是不是感觉很麻烦?
现在生成式AI技术出现了,有人猜测,我们也许可以为个人创造更让人信服的意识复本,哪怕此人已经死了。创造也许是可以的,但是需要庞大的资源来支持,比如需要原材料、水、能源,面对灾难性气候变化,维持这样的聊天机器人是愚蠢的。除此之外还应该考虑财务成本。你知道维护ChatGPT每天需要花多少钱吗?70万美元。用生成式AI打造亡魂,这种模式难以持续。
还有一个问题值得思考,如果真能创造人体意识副本,它归谁所有?是家人、亡者的雇主,还某家企业?不是所有人都愿意以聊天机器人的形式“投胎转世”。
2021年,一位名叫Joshua Barbeau的男子用OpenAI GPT-3开发一个聊天机器人,聊天机器人尽力模拟男子的未婚妻Jessica,她已经过世。通过这种奇怪的方式,男子与亡者保持亲密关系。但还有很多人也深爱Jessica,他们尚在人世,这些人不希望Jessica以这样的方式存在,就连Jessica的家人也不愿意与聊天机器人交流。
最终决定聊天机器人存在多久的不会是亡魂家人或者爱人,而是开发者和企业。在开发Jessica聊天机器人时,为了节省成本,开发者已经将“有计划报废”考虑进去,简单来说,开发者故意让系统衰弱,最终死亡。如果某一天Jessica聊天机器人无法继续存在,Joshua Barbeau又要面对爱人亡魂另一种形式的死亡。
我们也许可以用AI复活死者的意识,但是不能忽视背后的权力关系、基础设施、网络劳动力。当人死后我们创造意识复制体,它们仍然要依赖生者。就像今天的任何数字遗产一样,有人必须为域名付钱,要删除垃圾信息,要升级文件格式,当网站或者企业难以为继,还要将文件转移到另一个硬盘。就算创造出亡魂复本,要让活生生的人去照顾它,不说金钱成本,就是心理成本就已经极高,很多人恐怕都无法承受。(小刀)