OpenAI公司首席执行官承认ChatGPT存在风险，现在怎么办?

在上周末，OpenAI公司首席执行官Sam Altman突然加入了关于ChatGPT(该公司最近发布的对话文本生成模型) 在Twitter上的争论，并给出了令人惊讶的警告。

他在Twitter上写道:“ChatGPT的功能虽然非常有限，但在某些方面做得很好，足以给人留下一种令人误解的伟大印象。但现在依靠它做任何重要的事情都是错误的。这是一种进步的预演；在稳健性和真实性方面，我们还有很多工作要做。”

Altman最后在该帖子中写道，“ChatGPT是一个有趣的创意灵感。太棒了!对事实查询的依赖并不是个好主意。我们将努力改进!”

那么，是什么促使Altman发表上述言论?毕竟，当OpenAI公司在11月30日发布ChatGPT时，虽然他警告说这是一个早期的演示和研究版本，在功能上有很多限制，但他也对未来的应用进行了一些宣传和炒作。他在Twitter上写道，“很快，你就能拥有一个有用的助手，与你交谈，回答你的问题，并给出建议。随后你将拥有自动执行任务的工具，最终受益匪浅，因为它会为你发现新的知识。”

Altman最近发出的警告可能并不是对上周AI Beat专栏的回应。更有可能的是，是过去10天来的大规模炒作和铺天盖地批评的回应。到目前为止，OpenAI公司的ChatGPT被支持者描述为一种“轰动”和“最具颠覆性的技术”，但也有批评者指出，“ChatGPT有点像你在酒吧遇到的那个喝醉的女孩，她一直在喋喋不休地说话，有一些是真话，有一些是废话，但你肯定不会想把她带回家去见你的父母。”

也许，最值得注意的是，Altman看到了OpenAI公司的研究演示对主流的冲击。《纽约时报》、《华尔街日报》、《华盛顿邮报》、《大西洋月刊》甚至《福克斯天气》都在过去几天里报道了这一事件。

目前看来，ChatGPT一直得到行业人士的关注。没有任何迹象表明OpenAI的受欢迎程度正在下降：事实上，OpenAI公司似乎在满足请求方面遇到了困难。据报道，一些人收到了这样的通知:“哇!你可能得等一段时间。目前收到的请求多得让我们无法接受。”

但尽管围绕ChatGPT的讨论仍在继续，从那些指责谷歌公司在大型语言模型方面落后的用户，到对大学论文未来的担忧，似乎开发这些模型的开发者都在保持低调，意识到未来出现的激烈竞争。

对于OpenAI公司来说，该公司显然正在利用这段广泛的ChatGPT社区实验期来获得RLHF(从人类反馈中强化学习)，以用于备受期待的GPT-4的未来版本。

当然，虽然StabilityAI公司首席执行官Emad Mostaque说得很清楚，但正是这么说，代表了硬币的另一面：昼夜不停地工作以开发ChatGPT的开源变体的开发人员。

Stable Diffusion公司的创建者之一LAION表示，他们已经在积极地研究这个问题。他说，“所以，我们需要等待。同时，我保证上面的文字都不是ChatGPT写的，至少现在是这样。”