(旧金山综合电)美国人工智能研究公司OpenAI创始人奥尔特曼被董事会解雇又复职的消息,在业界闹得沸沸扬扬。现在,又有消息披露奥尔特曼被解雇的内情,看来又会引起另一番议论。 路透社引述两名知情者报道,奥尔特曼(Sam Altman)本月17日突遭解雇的四天前,一些研究员致函董事会警告,奥尔特曼在一项人工智能(AI)技术上取得进展,能力之强大恐怕威胁全人类。 其中一名知情人士告诉路透社,奥尔特曼被开除的导火线之一,是公司内部研究人员致函董事会,警告奥尔特曼专注于构建通用人工智能(AGI)的Q*(又称Q-Star)研究计划取得了突破性进展,他们担心继续发展下去将建构出超越人类智慧的电脑,对全人类构成威胁。 有关高智能机器所带来的危险,是电脑科学家们长期以来一直在讨论的问题。因为他们担心高智能机器有朝一日可能不受人类控制,不仅自主,也可能会认为毁灭人类符合自己的利益。一旦情况如此,就会危及人类的生存。 值得注意的是,奥尔特曼向来主张无条件加速技术创新,通过加快运用研究成果颠覆社会结构,迫使人类不断适应。 OpenAI在高智能领域的研究上,把AGI定义为一个能力超越人类的自主系统,可以代替人类执行大部分具有经济价值的任务。报道说,研究人员认为数学是生成式人工智能发展的前沿,而现在Q*已经能够解决某些数学问题,尽管只是达到小学生的水平,但足以让研究人员对Q*未来的成功抱很大的希望。 分析说,现阶段,生成式人工智能擅长通过统计预测下一个单词来写作和翻译,不过同一问题的答案可能会有很大差异。但一旦具备数学能力,也就是只有一个正确答案,这意味着人工智能将拥有类似人类的更强推理能力。 报道说,奥尔特曼努力使ChatGPT成为历来增长最快的软件应用之一,并从微软吸引到投资和资源,使研究朝AGI更进一步。除了在本月宣布一系列新的应用工具之外,奥尔特曼上星期在旧金山举行的亚太经济合作组织(APEC)首脑峰会上更断言,他相信重大进展即将到来。 奥尔特曼当时说,OpenAI已经出现四次人工智能的突破性进展,最近一次是在几周前。一天后,他就被董事会解雇。 他被解雇后,有700多名员工恫言离开OpenAI,加入OpenAI的支持者微软。面对各方压力之下,OpenAI收回成命,宣布奥尔特曼将重返公司并担任首席执行官,同时改组董事会。 |
© 2001-2021