在人工智能和科技领域,“奇点”通常是指科技进步达到一个假设性的临界点,即人工智能的能力超过人类智慧、实现自我改进和自主发展的节点。日前,奥特曼被董事会罢免,在OpenAI股东和员工的强烈抗议下,他最终得以复职。路透社称,在奥特曼被解雇前,OpenAI几名研究人员致信董事会,称一项和AI有关的强大发现可能会产生意想不到的后果。知情人士透露,一个代号为“Q*”的内部项目可能是OpenAI在探索所谓通用人工智能方面的突破。
消息人士称,OpenAI内部有个标记为“人工智能科学家”的项目。一名知情人士透露,该团队由早期几个研究团队合并而成,正在探索如何优化现有的人工智能模型,以提高其推理能力并最终开展科学工作。各种猜测使得Q*变得更加神秘。
比利时“数字观察”网站称,研究人员分析了Q*在新颖科学研究中的应用,即人工智能可以以一种让人联想起人类智能的方式进行概括、学习和理解。全球多名科技界大佬也纷纷下场分析和猜测Q*的发展方向与影响。
“奇点带来恐惧。”美国硅谷高管托马斯·普约撰文称,奥特曼重新执掌OpenAI,但现在世界已意识到一个问题。一些线索表明,这个问题与OpenAI可能接近AGI的担忧有关,并且没有做好遏制它的准备。奥特曼是一位令人难以置信的、有远见的领导者,“总体来说,考虑到所有方面,我更相信他能做出关于AI的正确决定,但允许最具经济颠覆性的人开发这种具有变革性和潜在颠覆性的技术,对社会来说有意义吗?”
纽约大学心理学和神经科学荣誉教授加里·马库斯在X上表示,无论网络欺凌、敲诈勒索……还是想要制造炸弹或的说明书,ChatGPT都能帮你解决。“我们需要停止担心机器人接管世界,而要更多地考虑坏人可能会利用大模型做什么,以及我们可以做什么来阻止他们。”(任重)