OpenAI 科学长:盼未来2年 AI 让人类信赖

| March 24, 2023 | 0 Comments

聊天机器人ChatGPT被广泛应用,被视为人工智慧重大突破。OpenAI共同创办人苏茨克维表示,刚问世的GPT-4解释哏图(梗图)能力令他惊讶,期盼未来2年能增加AI可信度并落实安全防护。

绘图晶片大厂辉达(Nvidia)20至23日举办年度GPU技术大会(GTC),执行长黄仁勋21日以人工智慧的「iPhone时刻」形容AI时代的到来。

绘图晶片大厂辉达(Nvidia)20至23日举办年度GPU技术大会(GTC),OpenAI共同创办人暨首席科学家苏茨克维(Ilya Sutskever)和辉达执行长黄仁勋进行深度对谈。

https://twitter.com/dickiebush/status/1638906021635837952?s=20

近期生成式人工智慧(Generative AI)在ChatGPT聊天机器人问世后成为话题,黄仁勋昨天以人工智慧的「iPhone时刻」形容AI时代的到来,他则以主持人角色登场,就现阶段语言模型具备的技能、安全防护、以及其未来可实现的成就,向苏茨克维发问讨教。

从事电脑科学和人工智慧领域已有20年的苏茨克维回想2002年刚起步时,几乎没有人想过电脑可以模拟人类大脑进行深度学习,因此当时研究不乐观。2015年OpenAI刚成立时,研究人员只有100人,许多人是来自Google收购的DeepMind人工智慧公司,团队起初也无法确信能推动计划。

OpenAI继去年底推出ChatGPT后,14日再推加强版的语言模型GPT-4,此模型在数学和律师考试等测验中,分数已胜过多数学生。

黄仁勋好奇两代模型最大差异。苏茨克维表示,GPT-4的可靠度更胜一筹,已不大会用愚蠢的方式回答问题。他对GPT-4解读哏图能力感到惊艳,完全知道「哏在哪里」。

GPT-4透过更大量的文字和图像进行多模态训练被视为一项重要突破。苏茨克维指出,人类一生听到的词汇仅有约10亿个或更多一些,加上人类是视觉动物,亲眼看到颜色会更快理解红色比蓝色更接近橙色,因此对AI进行视觉训练可以加速学习并扩大应用。

苏茨克维说,GPT-4对文本的理解力变强,因此能够更精准预测文本中的下一个单词。以侦探小说为例,书中充满复杂的人物、事件、故事情节,但侦探最后收集所有线索,推敲出谁是凶手;这就好比GPT-4可以从理解大量的文本中去预测出下一个单词。

黄仁勋以使用者的角度发问说,这似乎代表GPT-4已有某种程度的逻辑推理能力。苏茨克维则表示,「还没有到达可以推理的水准」,团队会持续提升模型技能,但无法保证能到达多高的推理能力。

苏茨克维说,现在AI语言模型还会产生幻想,犯下人类不会犯的错误,必须透过更多研究才能强化可靠性,也就是当它接收到压根没听过的知识,能够问清楚它不确定的地方,并且不会回应它所不知道的答案,「这是当前遇到的瓶颈」。

苏茨克维认为,唯有提高保真度和可信度,才能设定精确的「AI安全防护」,使这些AI模型遵循使用者预期的指令,不要执行不安全任务,这也是未来2年要提升的重要技术,如此一来AI才能被信赖,达到真正可用的标准。

尽管生成式人工智慧还不完美,苏茨克维也无法预测未来能够到达什么境界、是否能解决诸多不确定性,但回首一路走来,苏茨克维最深感讶异是自己的信念被实现,经由更大量和更深度的数据训练,做到原本只是概念性的想法。

黄仁勋回应,与苏茨克维相识10年,训练的数据在此期间已扩大了100万倍,在电脑科学领域,的确是令人意想不到的成就。

 

 

 

 

本新闻授权来自中央通讯社 cna.com.tw




.

Comments

comments

Tags: , , , , , , , , ,

Category: Default, News 新闻, Whats Hot

About the Author (Author Profile)