OpenAICEO山姆·奧特曼。人民視覺 資料圖“今后回首再看時(shí),GPT-4將是一個(gè)剛剛起步的、遲緩的、故障重重的人工智能模型,”ChatGPT之父、OpenAI CEO山姆·奧特曼(Sam Altman)在當(dāng)?shù)貢r(shí)間3月25日接受科技主播、MIT人工智能研究員LexFridman采訪時(shí)表示,“但是,早期的電腦也是這樣無法勝任許多事情,這并不妨礙它們指向了一條極具前景的道路,其進(jìn)化可能需要幾十年的時(shí)間?!眾W特曼與Fridman近兩個(gè)半小時(shí)的對(duì)談信息密度極高,奧特曼分享了他對(duì)人工智能多個(gè)角度的見解,談?wù)摿税℅PT-4、ChatGPT、人工智能安全、通用人工智能、馬斯克、微軟、政治偏見、市場(chǎng)競(jìng)爭(zhēng)等在內(nèi)的各類議題。
ChatGPT將成為人工智能的里程碑
在談?wù)撊斯ぶ悄馨l(fā)展的歷史進(jìn)程時(shí),奧特曼指出,技術(shù)的發(fā)展是一個(gè)線性的過程,很難以“跨越式”的進(jìn)步去定義,但如果一定要選出一個(gè)可以載入史冊(cè)的時(shí)刻,他將挑選ChatGPT。
奧特曼表示,ChatGPT在可用性方面取得的重大突破,以及RLHF(Reinforcement Learning from Human Feedback,基于人類反饋的強(qiáng)化學(xué)習(xí))的成功應(yīng)用,讓其有資格成為人工智能的里程碑。RLHF可以指導(dǎo)并訓(xùn)練人工智能對(duì)各類問題的答案,使其接近人類并減少訓(xùn)練數(shù)據(jù)量,奧特曼解釋說,最簡(jiǎn)單的例子就是給出兩個(gè)答案,并讓人類進(jìn)行選擇,模型就可以基于此了解到哪一個(gè)更優(yōu)。GPT-4從去年夏天就開始進(jìn)行各種安全調(diào)試,同樣在對(duì)齊(即滿足使用者期望)方面取得了巨大的進(jìn)步。
有趣的是,此前特斯拉CEO埃隆·馬斯克也曾盛贊ChatGPT的可用性,他認(rèn)為,ChatGPT的偉大之處就在于“向人們展示出了人工智能已經(jīng)變得多么先進(jìn)”,人工智能長(zhǎng)期以來一直在迅速進(jìn)步,但是卻缺乏一個(gè)人人可以觸及的界面,而ChatGPT做到了這一點(diǎn)。
近期,馬斯克在社交媒體推特上不斷對(duì)OpenAI發(fā)起攻勢(shì),奧特曼在訪談中則說道,“我理解他的想法,因?yàn)樗軗?dān)心AGI(通用人工智能)的安全性。當(dāng)然,我認(rèn)為還有其他的動(dòng)機(jī),但這是其中之一?!眾W特曼也不吝對(duì)馬斯克的贊美,“我很欣賞埃隆,他是我的英雄之一。盡管他在推特上有點(diǎn)粗暴,我希望他能更多地關(guān)注到,我們正在進(jìn)行一項(xiàng)艱苦工作。”
被奧特曼夸贊的也不僅僅是馬斯克,在談話中,奧特曼同樣表達(dá)了對(duì)微軟公司CEO薩提亞·納德拉的欽佩,稱他“既是偉大的、又是偉大的經(jīng)理人,既有遠(yuǎn)見卓識(shí)、長(zhǎng)謀擅略,又平易近人、有同理心”。
奧特曼即將開啟全球用戶之旅
談?wù)摰饺斯ぶ悄?,“偏見”與“安全”是不可避免的話題。
在和Fridman的對(duì)談中,奧特曼表示,“當(dāng)人們說,應(yīng)該讓人工智能與人類的偏好、價(jià)值觀相一致時(shí),這背后的意思是,要符合‘我個(gè)人’認(rèn)可的價(jià)值觀和偏好?!?
他強(qiáng)調(diào)說,“并不存在一套人類價(jià)值觀,或者說一套人類文明的正確答案。將來我們只能就這些系統(tǒng)能做什么來達(dá)成一套非常寬泛的協(xié)議,在這些邊界內(nèi),不同的可能會(huì)有不同的RLHF調(diào)整,個(gè)別用戶也有非常不同的偏好。我們發(fā)布了一個(gè)叫做‘系統(tǒng)消息’的東西,不是RLHF,但可以讓用戶更大限度獲得控制權(quán),我認(rèn)為這樣的東西將非常重要?!?
針對(duì)人工智能的偏見問題及其可能進(jìn)一步引發(fā)的安全隱患,社會(huì)上已不乏批評(píng)。
奧特曼認(rèn)為,“你總是能找到GPT犯錯(cuò)或者存在偏見的個(gè)案證據(jù),但我們很希望,能夠就系統(tǒng)的偏見或者細(xì)節(jié)問題做出一般性的陳述?!?
對(duì)于“標(biāo)題黨”新聞以及各種抨擊,奧特曼回應(yīng)說,自己并沒有感到壓力,“我確定它會(huì)產(chǎn)生各種微妙的影響,但我沒有感覺到很多。我們很樂意承認(rèn)自己的錯(cuò)誤?!?
對(duì)于不少人將人工智能人格化,奧特曼則表現(xiàn)出了謹(jǐn)慎態(tài)度。
許多人傾向于用“她”或“他”這樣的人稱代詞來稱呼ChatGPT等人工智能模型,賦予其人格。奧特曼指出,人工智能只是工具,而不是一種生物,把工具當(dāng)成生物,甚至將情緒投射到其身上是十分危險(xiǎn)的。
奧特曼說道,他能夠理解有人有這方面的需求,未來也會(huì)有公司開發(fā)出基于GPT-4的寵物類或者人物類陪伴產(chǎn)品,但他自己對(duì)這個(gè)方向并不感興趣。
對(duì)于由開發(fā)團(tuán)隊(duì)自身可能帶來的偏見,奧特曼也毫不避諱,“人工智能的群體思維(group think)泡沫隨處可見,很難避免,”奧特曼表示,他將要進(jìn)行一次為期一個(gè)月的全球用戶之旅,去不同的城市與用戶交流,去與身處不同背景的人溝通,“這種交流在互聯(lián)網(wǎng)上是行不通的,親自去到他們所去的酒吧、走過他們走過的城市,你可以學(xué)到很多東西,擺脫泡沫的束縛?!?
奧特曼:不在乎競(jìng)爭(zhēng),擔(dān)憂競(jìng)爭(zhēng)對(duì)手走捷徑
在OpenAI之后,包括谷歌在內(nèi)的競(jìng)爭(zhēng)對(duì)手紛紛加速推出人工智能產(chǎn)品,對(duì)于市場(chǎng)競(jìng)爭(zhēng),奧特曼認(rèn)為,世界上將有多個(gè)人工智能,OpenAI不需要去和所有人競(jìng)爭(zhēng),“我認(rèn)為世界上有多個(gè)通用人工智能(AGI)是好事,它們?cè)跇?gòu)建方式、著重點(diǎn)等方面都各有差異。”
奧特曼直言,對(duì)于所謂“競(jìng)爭(zhēng)帶來的壓力”毫無畏懼,“我們是一個(gè)奇怪的組織,我們擅長(zhǎng)抵抗壓力。我們很長(zhǎng)一段時(shí)間以來一直被誤解、被嘲笑。成立之初,也就是在2015年,我們宣布要研究通用人工智能,當(dāng)時(shí)人們覺得我們瘋了。我記得有一位知名的人工智能科學(xué)家,說我們談?wù)撏ㄓ萌斯ぶ悄芎?jiǎn)直荒謬?!?
對(duì)于競(jìng)爭(zhēng)對(duì)手,奧特曼更大的擔(dān)憂反而是安全問題。他認(rèn)為,人工智能的參與者中不乏有人要走捷徑,甚至為了獲取無限的價(jià)值而導(dǎo)致負(fù)面事情的發(fā)生,這是一件值得擔(dān)憂的事情。
此外,他還介紹說,OpenAI的組織結(jié)構(gòu)非常特殊,是在非營(yíng)利性組織的基礎(chǔ)之上,增設(shè)了營(yíng)利組織分支,以便為OpenAI提供足夠的資金支持,在支付成本之后,其營(yíng)收全都流入非營(yíng)利組織之中,這樣的組織架構(gòu)很好地保障了OpenAI的順利運(yùn)行。
相關(guān)閱讀: ChatGPT能與點(diǎn)焊機(jī)程序集成嗎
ChatGPT將成里程碑,擔(dān)憂競(jìng)爭(zhēng)對(duì)手走捷徑就講到這里,了解更多點(diǎn)焊機(jī)更多技術(shù)知識(shí),行業(yè)資訊歡迎留言。
蘇州豪精自動(dòng)化有限公司主要產(chǎn)品有:碰焊機(jī)、滾焊機(jī)、龍門排焊機(jī)、網(wǎng)片龍門排焊機(jī)、中頻點(diǎn)焊機(jī)、三相次級(jí)整流點(diǎn)焊機(jī)、龍門式多點(diǎn)焊機(jī)、逆變點(diǎn)焊機(jī)、電容式儲(chǔ)能點(diǎn)焊機(jī)、自動(dòng)碰焊機(jī)、全自動(dòng)龍門排焊機(jī)、冷凝器龍門排焊機(jī)、油汀多點(diǎn)焊機(jī)、網(wǎng)片排焊機(jī)、對(duì)焊機(jī)、壓縮機(jī)點(diǎn)焊機(jī)、等標(biāo)準(zhǔn)電阻焊機(jī)及定制非標(biāo)焊接設(shè)備,歡迎廣大客戶來電選購(gòu)!