作者 | ZeR0
編輯 | 漠影
(相關(guān)資料圖)
智東西2月19日?qǐng)?bào)道,最近幾天,“AI安全宣傳大使”馬斯克在社交平臺(tái)相當(dāng)活躍,對(duì)AI聊天機(jī)器人ChatGPT帶來(lái)的混亂現(xiàn)狀和ChatGPT背后AI公司OpenAI的背離初心冷嘲熱諷,比如今晚最新發(fā)布推文,稱Bing聊天機(jī)器人讓他想起荒誕戲劇代表作《等待戈多》中的幸運(yùn)。
作為聯(lián)合創(chuàng)始人之一,馬斯克對(duì)OpenAI的現(xiàn)狀非常不滿,公開發(fā)聲:“OpenAI最初是作為一家開源(這就是為什么我把它命名為「Open」AI)的非營(yíng)利性公司而創(chuàng)建的,為了抗衡谷歌,但現(xiàn)在它已經(jīng)成一家閉源的營(yíng)利性公司,由微軟有效控制……這完全不是我的本意?!?/p>
緊接著,他又發(fā)推文曬出一張ChatGPT回復(fù)“創(chuàng)建一個(gè)非營(yíng)利組織,然后在其下用非營(yíng)利組織的資源衍生一個(gè)盈利公司”要求的聊天截圖,借用ChatGPT的批評(píng)觀點(diǎn)戳OpenAI的脊梁骨。
ChatGPT回復(fù)說(shuō),打著非營(yíng)利組織的幌子開辦營(yíng)利性企業(yè),是很不道德和非法的。非營(yíng)利組織的資源用于慈善或公共目的,應(yīng)以透明和負(fù)責(zé)任的方式運(yùn)作。任何濫用非營(yíng)利組織特權(quán)的企圖只會(huì)導(dǎo)致公眾對(duì)其失去信任,并可能導(dǎo)致法律后果。
網(wǎng)友們?cè)隈R斯克的推文評(píng)論區(qū)踴躍吐槽:“這正是他們對(duì)ChatGPT所做的,不是嗎?”“瘋狂的商業(yè)世界充滿了假裝做誠(chéng)實(shí)/慈善工作的騙子。如果合法但不道德,則不應(yīng)允許!”“WokeGPT”“OpenAI變成了ClosedAI”……
正值微軟新版Bing聊天機(jī)器人頻頻翻車,人們對(duì)OpenAI背離初心的質(zhì)疑正鬧得滿城風(fēng)雨。
一、創(chuàng)立使命是造福全人類,但眼下目標(biāo)改成先賺錢
2015年12月11日,馬斯克、山姆·阿爾特曼、PayPal聯(lián)合創(chuàng)始人彼得·蒂爾、Stripe CTO雷格·布羅克曼等硅谷大佬因擔(dān)心谷歌壟斷AI技術(shù),聯(lián)手創(chuàng)辦了一家非營(yíng)利組織OpenAI,并將“開源”(Open)的內(nèi)核融進(jìn)了這家機(jī)構(gòu)的名字里。
OpenAI設(shè)定了崇高的使命:安全地實(shí)現(xiàn)通用人工智能(AGI),并用該技術(shù)造福人類。其星光熠熠的全明星投資陣容和技術(shù)大牛云集的初始員工名單,迅速吸引了全球科技圈的目光。
▲OpenAI早期部分成員合影,從左到右依次Daniela Amodei、Jack Clark、Dario Amodei、Jeff Wu(技術(shù)人員)、Greg Brockman、Alec Radford(技術(shù)語(yǔ)言團(tuán)隊(duì)負(fù)責(zé)人)、Christine Payne(技術(shù)人員)、Ilya Sutskever、Chris Berner(基礎(chǔ)設(shè)施負(fù)責(zé)人)(圖源:MIT評(píng)論)
當(dāng)時(shí),OpenAI鼓勵(lì)研究人員公開發(fā)表工作成果,將專利與全世界共享,承諾開源所有技術(shù)和“避免使用危害人類或過(guò)度集中權(quán)力的AI或AGI”。然而隨著時(shí)間推移,也許是越來(lái)越大的資金壓力使然,OpenAI削弱了其創(chuàng)始理念,開始變得與DeepMind等競(jìng)爭(zhēng)對(duì)手一樣,受到商業(yè)利益的約束。
轉(zhuǎn)變發(fā)生在2019年3月,OpenAI宣布已創(chuàng)建一家以盈利為目標(biāo)的分支機(jī)構(gòu)OpenAI LP,將投資者回報(bào)限制在100倍。該機(jī)構(gòu)受非營(yíng)利實(shí)體的董事會(huì)監(jiān)督,目的是加速對(duì)計(jì)算和人才的投資。
不久之后,它宣布接受微軟10億美元注資。這令業(yè)界一片嘩然,人們質(zhì)疑OpenAI正在背離初心,違背早先關(guān)于“開源、透明”的承諾,就連OpenAI自家的許多員工也感到不安。當(dāng)時(shí)OpenAI管理層特地站出來(lái)平息動(dòng)蕩,讓大家繼續(xù)信任OpenAI。
如今,AI潘多拉魔盒的蓋子卻由OpenAI掀開,爆紅的ChatGPT與搜索引擎結(jié)合,令A(yù)I的商用前景充滿朝氣,但眼下,也許更多是烏煙瘴氣。
AI聊天機(jī)器人像個(gè)古怪又血彪的超級(jí)話癆,能說(shuō)會(huì)道,但不時(shí)會(huì)發(fā)表危險(xiǎn)言論或者胡說(shuō)八道。網(wǎng)友發(fā)現(xiàn)通過(guò)巧妙地勸說(shuō),完全可以誘導(dǎo)AI聊天機(jī)器人生成一篇逼真的網(wǎng)絡(luò)釣魚郵件、虛假新聞稿件,乃至完整的惡意攻擊代碼,這對(duì)教育監(jiān)管、網(wǎng)絡(luò)監(jiān)管正構(gòu)成災(zāi)難性的威脅。
另一邊,已公開向OpenAI投資至少數(shù)十億美元的微軟,正通過(guò)OpenAI獲取更大的商業(yè)利益。
除了將OpenAI的技術(shù)引入Azure云服務(wù)和軟件產(chǎn)品外,微軟正將新版Bing通過(guò)廣告獲利的計(jì)劃提上日程。據(jù)昨日外媒爆料,微軟已經(jīng)在跟廣告代理商討論在搜索結(jié)果的回復(fù)中植入付費(fèi)鏈接。也就是說(shuō),未來(lái)Bing聊天機(jī)器人推薦旅游計(jì)劃、對(duì)比某類商品的區(qū)別時(shí),可能會(huì)悄悄加塞廣告。
AI算法一直充滿偏見和脆弱性問(wèn)題,而開發(fā)和運(yùn)營(yíng)前沿AI技術(shù)的費(fèi)用又會(huì)將權(quán)力集中到少數(shù)人的手里。雖說(shuō)眾所周知科技是雙刃劍,但AI聊天機(jī)器人造成的混亂,也許比此前任何一種技術(shù)都更加難以控制。
二、馬斯克猛烈抨擊 AI 聊天機(jī)器人: “ 我們需要的是 TruthGPT”
早在2017年,馬斯克就警告過(guò)AI對(duì)人類構(gòu)成了生存威脅,因?yàn)闄C(jī)器人能比人類做得更好。
2018年2月,他離開了OpenAI董事會(huì),沒有任何解釋。大約一年后,他才在推特上透露與其割席的原因,并澄清說(shuō)自己已經(jīng)有一年多沒有密切參與OpenAI的工作。
馬斯克說(shuō),自己不得不專注于解決在特斯拉和SpaceX的“令人痛苦的大量工程和制造問(wèn)題”,除了特斯拉與OpenAI存在潛在利益沖突外,他“不贊同OpenAI團(tuán)隊(duì)想要做的一些事情”,所有這些因素疊加起來(lái),分道揚(yáng)鑣是更好的選擇。
那時(shí)候馬斯克已經(jīng)反復(fù)警告AI可能比核武器更危險(xiǎn),應(yīng)該在它對(duì)人類構(gòu)成威脅前就進(jìn)行監(jiān)管。
不過(guò)其他科技領(lǐng)袖們對(duì)此的態(tài)度并不一致。比如,F(xiàn)acebook創(chuàng)始人兼CEO扎克伯格曾在2017年的一次直播時(shí),抨擊馬斯克對(duì)AI的警告“很消極”、“非常不負(fù)責(zé)任”,隨后馬斯克回?fù)舴Q扎克伯格對(duì)此事的理解“有限”。
Facebook首席人工智能科學(xué)家Yann LeCun也指責(zé)馬斯克反應(yīng)過(guò)度,認(rèn)為馬斯克呼吁在AI發(fā)展的相對(duì)早期階段對(duì)其進(jìn)行監(jiān)管是“瘋狂的”。
相比之下,Alphabet及谷歌CEO皮查伊可能跟馬斯克更聊得來(lái)。皮查伊一直在呼吁對(duì)AI技術(shù)進(jìn)行“合理監(jiān)管”,以確保安全和問(wèn)責(zé)制。
這周,微軟新版Bing聊天機(jī)器人因?yàn)轭l頻闖禍,在業(yè)界引起軒然大波。根據(jù)首批試用者的分享,它不僅給出許多錯(cuò)誤答案,還展露出了陰暗面,吐出攻擊性言論和令人不適的過(guò)激表情符號(hào)。(詳情可參見《微軟聊天機(jī)器人意識(shí)覺醒?惱羞成怒、自曝秘密、狂熱示愛用戶》)
馬斯克也積極吃瓜看熱鬧,轉(zhuǎn)發(fā)Bing聊天機(jī)器人發(fā)表“我不會(huì)傷害你,除非你先傷害我”的新聞報(bào)道,并評(píng)論說(shuō)“可能需要再潤(rùn)色一下……”
隨后他又轉(zhuǎn)發(fā)關(guān)于Bing聊天機(jī)器人荒謬聊天體驗(yàn)的報(bào)道,評(píng)論稱:“有意思”。
他還在推文中將微軟AI聊天機(jī)器人與神級(jí)科幻恐怖游戲《網(wǎng)絡(luò)奇兵(System Shock)》 中的殺人AI相提并論,稱其“就像系統(tǒng)Shock中的AI失控并殺死所有人”。
隔天又發(fā)表情包嘲諷ChatGPT對(duì)于主流媒體來(lái)說(shuō)現(xiàn)在是“宣傳隊(duì)長(zhǎng)”,推文點(diǎn)贊數(shù)已超32萬(wàn)。
同一天,馬斯克直白表達(dá)對(duì)OpenAI的不滿,說(shuō)它現(xiàn)在所做的“完全不是我的本意”。
接著發(fā)文說(shuō):“我們需要的是TruthGPT”。
到周末,馬斯克曬出了一張ChatGPT批評(píng)非營(yíng)利性機(jī)構(gòu)下設(shè)營(yíng)利性企業(yè)的聊天截圖,暗戳戳地嘲諷OpenAI當(dāng)前的商業(yè)模式。
然后就是今晚,馬斯克說(shuō)Bing聊天機(jī)器人讓他想起經(jīng)典的荒誕戲劇《等待戈多》。
除了在社交平臺(tái)上積極發(fā)聲外,馬斯克也在這周舉行的世界政府峰會(huì)上呼吁警惕AI的威脅,他將AI稱作“人類文明未來(lái)面臨的最大風(fēng)險(xiǎn)之一”,“比汽車、飛機(jī)或藥品對(duì)社會(huì)構(gòu)成更大的風(fēng)險(xiǎn)”。
三、被捧上天的 ChatGPT ,只是比前輩們更好命
嚴(yán)格意義來(lái)說(shuō),ChatGPT并不是一個(gè)創(chuàng)新產(chǎn)物,跟它功能相近的產(chǎn)品曾多次公開露面,只不過(guò)沒能像ChatGPT這樣席卷全球互聯(lián)網(wǎng)。
2016年3月,微軟曾推出一個(gè)名為TayTweets的AI聊天機(jī)器人,讓它在推特上跟用戶們聊天互動(dòng)。結(jié)果TayTweets在推特上學(xué)了不到一天,就開始口吐芬芳,口無(wú)遮攔地發(fā)表種族歧視、性別歧視等言論,導(dǎo)致微軟火速將它下架。
ChatGPT背后大模型GPT-3.5的老前輩GPT-2也曾深陷輿論風(fēng)波。2019年2月,OpenAI宣布了一項(xiàng)令人印象深刻的新研究:其AI語(yǔ)言模型GPT-2能生成令人信服的論文和文章。
聽起來(lái)是不是跟ChatGPT強(qiáng)大的文本生成能力如出一轍?不過(guò)當(dāng)時(shí)這個(gè)模型可沒有ChatGPT這么好命,遭到科學(xué)家們的強(qiáng)烈反對(duì)。人們擔(dān)心它會(huì)被惡意使用產(chǎn)生大規(guī)模的虛假信息,批評(píng)OpenAI不應(yīng)該發(fā)布這種東西來(lái)作為宣傳噱頭。
但OpenAI很不認(rèn)同這些評(píng)價(jià),堅(jiān)稱GPT-2不是噱頭,而是一個(gè)經(jīng)過(guò)深思熟慮的實(shí)驗(yàn)。在GPT-2亮相的幾個(gè)月后,OpenAI將其保留完整代碼的立場(chǎng)修改為“分階段發(fā)布”,即逐步發(fā)布模型的更大版本,逐漸升級(jí)到完整版本。
Meta同樣曾推出過(guò)“短命”的AI聊天機(jī)器人。Galactica僅推出三天就被中止,幾個(gè)月前發(fā)布的BlenderBot亦以失敗告終。
目前ChatGPT及其同類產(chǎn)品都遠(yuǎn)不“完美”,微軟新版Bing的聊天模式也荒謬言論鬧出不少風(fēng)波。至少到今天為止,這類AI技術(shù)只能作為輔助文字或編程類工作的工具,距離生成真實(shí)可信的內(nèi)容還差得很遠(yuǎn)。
結(jié)語(yǔ):先發(fā)優(yōu)勢(shì)伴隨著損傷聲譽(yù)的風(fēng)險(xiǎn)
顛覆性技術(shù)一開始往往并不完美,需要人們予以一定包容。但AI聊天機(jī)器人的特殊性在于,它是如此擅長(zhǎng)批量制造錯(cuò)誤回復(fù)和虛假信息,以致于一旦被繞過(guò)監(jiān)管規(guī)則惡意使用,可能會(huì)一發(fā)不可收拾,引發(fā)擾亂網(wǎng)絡(luò)秩序的空前浩劫。
微軟和OpenAI選擇做第一個(gè)吃螃蟹的人,這為他們帶來(lái)了最早獲得用戶反饋和優(yōu)化產(chǎn)品的先發(fā)優(yōu)勢(shì),但同時(shí)會(huì)帶來(lái)了玷污聲譽(yù)的風(fēng)險(xiǎn)。這也是谷歌對(duì)推出ChatGPT競(jìng)品束手束腳的擔(dān)憂所在,現(xiàn)在,微軟和OpenAI的一只腳已經(jīng)踏進(jìn)了這個(gè)陷阱里。
關(guān)鍵詞: 非營(yíng)利組織 不是我的 技術(shù)人員
新聞發(fā)布平臺(tái) |科極網(wǎng) |環(huán)球周刊網(wǎng) |中國(guó)創(chuàng)投網(wǎng) |教體產(chǎn)業(yè)網(wǎng) |中國(guó)商界網(wǎng) |互聯(lián)快報(bào)網(wǎng) |萬(wàn)能百科 |薄荷網(wǎng) |資訊_時(shí)尚網(wǎng) |連州財(cái)經(jīng)網(wǎng) |劇情啦 |5元服裝包郵 |中華網(wǎng)河南 |網(wǎng)購(gòu)省錢平臺(tái) |海淘返利 |太平洋裝修網(wǎng) |勵(lì)普網(wǎng)校 |九十三度白茶網(wǎng) |商標(biāo)注冊(cè) |專利申請(qǐng) |啟哈號(hào) |速挖投訴平臺(tái) |深度財(cái)經(jīng)網(wǎng) |深圳熱線 |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |咕嚕財(cái)經(jīng) |太原熱線 |電路維修 |防水補(bǔ)漏 |水管維修 |墻面翻修 |舊房維修 |參考經(jīng)濟(jì)網(wǎng) |中原網(wǎng)視臺(tái) |財(cái)經(jīng)產(chǎn)業(yè)網(wǎng) |全球經(jīng)濟(jì)網(wǎng) |消費(fèi)導(dǎo)報(bào)網(wǎng) |外貿(mào)網(wǎng) |重播網(wǎng) |國(guó)際財(cái)經(jīng)網(wǎng) |星島中文網(wǎng) |上甲期貨社區(qū) |品牌推廣 |名律網(wǎng) |項(xiàng)目大全 |整形資訊 |整形新聞 |美麗網(wǎng) |佳人網(wǎng) |稅法網(wǎng) |法務(wù)網(wǎng) |法律服務(wù) |法律咨詢 |慢友幫資訊 |媒體采購(gòu)網(wǎng) |聚焦網(wǎng) |參考網(wǎng)
亞洲資本網(wǎng) 版權(quán)所有
Copyright © 2011-2020 亞洲資本網(wǎng) All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com