Google AI 有知觉吗？以下是我对 LaMDA 的真实想法

原文：https://pub.towardsai.net/is-google-ai-sentient-heres-what-i-really-think-about-lamda-63fe31c2b7ac?source=collection_archive---------1-----------------------

让我们试着弄清楚人工智能是否能感受情感

照片由 Unsplash 上的尼克·佩奇拍摄

如今，科技在我们的生活中随处可见。有时感觉我们不能离开它。作为用户，我们每天都有技术帮助我们完成不同的任务。作为研究人员，我们处理高级神经网络和框架**，我们可以用它们来构建智能应用。**

问题是: 我们能走多远？

概述

生成式人工智能&语言模型
南大案
AI 能有知觉吗？
结论

1.生成人工智能和语言模型

人工智能是一个通称。我们用它来表示在某种程度上*、能够模仿人类行为的应用程序，甚至做得更好。我们熟悉的弱智能特工**，所谓的弱智能特工是因为专注于单一任务。他们做得非常好。***

我们也熟悉生成式 AI ，可以产生美术、音乐，甚至文字的人工智能体。像人类一样。

是的，甚至文。

文字是语言的书面形式，语言是人类区别于动物的地方。语言代表我们如何交流。

语言一直是人类保留的能力，但现在**一些**ai 也有同样的能力**。一个例子是预训练生成变压器，或 GPT-3。这个变形金刚可以产生类似人类的文字。而且不是唯一的一个。

像 GPT-3 这样的模型使用神经网络产生一个结果。这些神经网络就是 “黑箱”。没有人 知道为什么会产生某种结果。没人。我们唯一知道的是这些网络被训练的日期。而这个在可说明性和可解释性方面都会构成风险。

2.LaMDA 案

*甚至谷歌也在开发一个用于创建对话应用(聊天机器人)的模型。它看起来很强大——最强大的。*****

这个模型，即 LaMDA (对话应用的语言模型)，可以定义为开放域聊天机器人*。***

一个开放领域的聊天机器人并不局限于某个特定的应用领域，它可以谈论任何事情。

LaMDA 实例可以生成不同的个性并使用它们与用户相关联。这些个性是在对话期间动态生成和改变的。一些被认为危险的角色已经被开发者自己屏蔽了(例如，一个杀人犯角色)。**

其中一名工程师报告说，与这个模型互动就像与一个 7、8 岁但懂物理的孩子互动。

同一位工程师最近被解雇了*，因为报告说 LaMDA 车型是有感觉的。我们真的在一个有意识的人工智能面前吗？***

让我们试着弄清楚。

3.AI 能有知觉吗？

2 月 10 日，OpenAI 的 CEO 发推文 : “大型神经网络有可能轻微意识” 。而且他不是唯一一个有过这种想法的人。怎么回事？

如果你 看了两个工程师和 LaMDA AI** 之间的一些对话** s ，你就体会到是多么的先进和强大了*。但是这并不意味着它经历情感或感觉。***

一般来说，对话代理是在大量对话中训练出来的。因此，假设这个模型也主要在对话、上被训练，这些对话可能包含博客和论坛上的聊天、对话、评论等。如果是这样的话，这个特工就接受过讲述人们生活片段的文件的培训*。包含爱的句子和恨的句子的文档。包含打架、告白、恐惧、欲望、情感、希望的真人就像你我。*****