亚马逊展示了可能是我听过的最令人毛骨悚然的技术

在今年的年度re:Mars大会上，亚马逊展示了可能是我听过的最令人毛骨悚然的技术：一种Alexa技能，可以让它模仿其他人的声音。从表面上看，它似乎并没有那么糟糕，对吧?我内心的书呆子已经在考虑如何使用我自己的个人PaulBettany或AnthonyDaniels配音的Alexa扬声器(分别是MCU的JARVIS和星球大战的C3-P0的声音)感觉自己像托尼·斯塔克或卢克·天行者.

但亚马逊的Alexa高级副总裁RohitPrasad并没有沿着这条名人之路走下去，而是将这个想法与Alexa使用他们最近去世的祖父母的声音朗读的孩子的剪辑一起提出。根据Engadget(在新标签中打开)，亚马逊发言人解释说，这个剪辑可以使用Alexa模仿的人的“短短一分钟的音频”来重新创建。

当你看到亚马逊的技术如何帮助孩子处理他们的悲伤时，这个场景可能是为了激发温馨的感觉，但它也很容易成为《黑镜》中的一个场景。事实上，BeRightBack这一集的前提与此几乎相同。

BeRightBack跟随DomhnallGleeson的Ash在车祸中丧生，在发现她怀孕后，HayleyAtwell的Martha需要尝试新技术，让她能够与模仿Ash的人工智能进行交流。这太可怕了，绝对不打算作为任何好东西的预览。

在他对Alexa工具的解释中，RohitPrasad表示，虽然它不会消除失去的痛苦，但“它绝对可以让记忆持久”，并有助于缓解任何心痛。

这是我绝对可以理解的情绪;悲伤是一种难以处理的情绪，尤其是像亚马逊分享的视频中的孩子这样年轻的时候。但模糊生与死之间的界限似乎并不是处理损失的最健康方式。

根据Prasad的评论，很明显亚马逊认为这是一种使用他们去世前记录的旧照片和视频来回忆亲人的演变，但事实并非如此。照片或视频是在他们同意的情况下拍摄的，并且是该人在死前实际做过的事情;这个由人工智能主导的功能不是在播放读书的录音，而是用他们的声音来制造一个虚构的记忆。

如果有人希望他们的声音在他们死后通过Alexa继续存在，然后赋予他们权力，我相信他们会喜欢这个功能。就个人而言，我希望能够安静地休息。

除了上述引发噩梦的用途之外，这种模仿功能还可能为新的骗局铺平道路。虽然我们中的许多人都知道要忽略电话另一端的机器人声音并挂断电话，但我们可能更倾向于听取祖母或儿子的要求。

再加上复杂的视频深度伪造工具，我们最终会发现无法相信我们观看的任何视频-任何东西都可能是由真实的假音频和视觉构成的。

亚马逊不会是唯一一家开发像这种思维方式的人工智能语音工具的公司。我们怀疑苹果、谷歌和其他所有语音助手制造商都希望让它们听起来更真实、更个性化。但这些复杂的模仿功能非常像潘多拉的盒子，需要小心打开。

为此，亚马逊似乎确实意识到需要谨慎。它没有概述何时将这个功能推广到现有的Alexa设备的时间表，甚至没有确认它是否会公开可用。

但现在它的音频不朽性已经向世界展示，Alexa获得像死人一样说话的能力可能只是时间问题。

标签：