美國(guó)科技制裁名單(美國(guó)科技企業(yè))

新浪科技訊北京時(shí)間5月29日上午消息，2022年底，負(fù)責(zé)打擊虛假信息的Meta工程團(tuán)隊(duì)正準(zhǔn)備推出一款耗時(shí)半年開發(fā)的事實(shí)核查工具。此前發(fā)生的一系列危機(jī)嚴(yán)重?fù)p害了Facebook和Instagram的信譽(yù)，也為監(jiān)管機(jī)構(gòu)打擊這些平臺(tái)創(chuàng)造了更多機(jī)會(huì)。面對(duì)這種情況，這個(gè)工具就顯得尤為重要。

新工具將允許美聯(lián)社、路透社等第三方事實(shí)核查機(jī)構(gòu)和知名專家在有問題的文章頂部添加評(píng)論，以確認(rèn)其可信度。

但知情人士透露，當(dāng)Meta首席執(zhí)行官馬克·扎克伯格宣布2023年為“效率年”時(shí)，這一雄心勃勃的計(jì)劃宣告結(jié)束。

Meta公布的裁員計(jì)劃涉及約2.1萬(wàn)人。經(jīng)過幾輪實(shí)施，Meta的信任和安全工作受到了很大影響。知情人士稱，這一事實(shí)核查工具很早就得到了高管的支持，并于今年早些時(shí)候進(jìn)入測(cè)試階段，但由于裁員而被放棄。

Meta發(fā)言人尚未對(duì)特定領(lǐng)域的裁員發(fā)表評(píng)論，但通過電子郵件回復(fù)：“我們?nèi)匀粚Ｗ⒂谥贫ㄐ袠I(yè)領(lǐng)先的誠(chéng)信措施，并將繼續(xù)投資建設(shè)團(tuán)隊(duì)和技術(shù)來保護(hù)我們的社區(qū)。”

看看科技行業(yè)，隨著企業(yè)通過緊縮支出和大規(guī)模裁員來應(yīng)對(duì)宏觀經(jīng)濟(jì)壓力和收入增長(zhǎng)放緩，大量負(fù)責(zé)保護(hù)這些最受歡迎的“互聯(lián)網(wǎng)天堂”的人也被解雇。然而，此時(shí)正值網(wǎng)絡(luò)暴力猖獗、虛假信息泛濫、暴力內(nèi)容激增之際。人工智能的爆炸性應(yīng)用正在加劇這些問題。

在最近的財(cái)報(bào)電話會(huì)議上，科技高管都強(qiáng)調(diào)“少花錢，多做事”的理念，希望通過投入更少的資源來提高效率。Meta、Alphabet、亞馬遜和微軟在前幾年大規(guī)模擴(kuò)張后都實(shí)施了數(shù)千名裁員。微軟首席執(zhí)行官薩蒂亞·納德拉(SatyaNadella)最近也表示，他的公司將暫停為全職員工加薪。

科技公司大幅減少了負(fù)責(zé)信任、安全和人工智能倫理的團(tuán)隊(duì)，這充分表明，盡管2024年美國(guó)總統(tǒng)大選季即將拉開帷幕，網(wǎng)絡(luò)上的各種噪音勢(shì)必會(huì)增加，但企業(yè)仍然更愿意滿足華爾街對(duì)效率的要求。在科技公司內(nèi)部，AI道德團(tuán)隊(duì)和信任與安全團(tuán)隊(duì)分屬于不同的部門，但他們的目標(biāo)都是減少公司產(chǎn)品和服務(wù)在現(xiàn)實(shí)世界中可能造成的危害。

“這是一場(chǎng)貓捉老鼠的游戲，施虐者通常會(huì)獲勝，”曾擔(dān)任谷歌和字節(jié)跳動(dòng)信任與安全總監(jiān)、現(xiàn)在擔(dān)任新聞聚合商的阿瓊·納拉揚(yáng)(ArjunNarayan)說。將SmartNews應(yīng)用于信任和安全業(yè)務(wù)，“你總是在追趕。”

但目前看來，在科技公司眼中，無(wú)論是信任與安全團(tuán)隊(duì)還是人工智能倫理團(tuán)隊(duì)，都是應(yīng)該降低的成本。

知情人士稱，Twitter在11月基本上解散了人工智能道德團(tuán)隊(duì)，只保留了一名員工，同時(shí)還裁掉了信任和安全部門15%的員工。今年二月，谷歌從一個(gè)旨在打擊錯(cuò)誤信息、激進(jìn)化和有毒內(nèi)容的部門裁掉了三分之一的員工。據(jù)報(bào)道，Meta還在1月初終止了與約200名內(nèi)容版主的合同。根據(jù)向美國(guó)勞工部提交的數(shù)據(jù)，該公司還裁減了Instagram健康在線部門至少16個(gè)職位，并裁減了信任、誠(chéng)信和責(zé)任部門100多個(gè)職位。

今年3月，亞馬遜縮減了人工智能責(zé)任團(tuán)隊(duì)的規(guī)模，微軟也解雇了整個(gè)道德和社會(huì)團(tuán)隊(duì)的33,354人。據(jù)悉，這兩輪裁員使團(tuán)隊(duì)人數(shù)從30人減至零。亞馬遜沒有發(fā)表評(píng)論，而微軟則提供了有關(guān)裁員的官方博客文章。

在亞馬遜的流媒體游戲部門Twitch，員工直到3月份才通過首席執(zhí)行官安迪·賈西(AndyJassy)發(fā)布的不合時(shí)宜的內(nèi)部帖子得知了自己的命運(yùn)。

Jassy當(dāng)時(shí)宣布在公司范圍內(nèi)裁員9,000人，其中包括400名Twitch員工。知情人士稱，在400名員工中，約有50名負(fù)責(zé)監(jiān)控網(wǎng)絡(luò)暴力、非法或有害行為。

在內(nèi)容審核比以往任何時(shí)候都更加重要的情況下，亞馬遜的信任和安全團(tuán)隊(duì)已經(jīng)失去了大約15%的員工。

在給員工的電子郵件中，Twich首席執(zhí)行官DanClancy沒有具體提及信任和安全團(tuán)隊(duì)，但確認(rèn)了更廣泛的裁員。事實(shí)上，他本人也是剛剛從賈西的帖子中得知了裁員的消息。

克蘭西在電子郵件中寫道：“我很遺憾，我以這種方式向所有人傳達(dá)了這個(gè)消息，而未能提前與受此影響的員工進(jìn)行直接溝通。”

重新獲得信任很困難

Twitch信任和安全團(tuán)隊(duì)的一位負(fù)責(zé)人表示，該部門剩余的員工感到“受到鞭打”，并擔(dān)心第二輪裁員。這位人士透露，此次裁員對(duì)團(tuán)隊(duì)來說是一個(gè)重大打擊，Twitch負(fù)責(zé)處理人身威脅、暴力、恐怖組織和自殘問題的執(zhí)法響應(yīng)團(tuán)隊(duì)也大幅縮減。

Twitch發(fā)言人尚未發(fā)表評(píng)論，只是在三月份發(fā)布了一篇官方博客文章宣布裁員。該博客文章沒有提及信任和安全或內(nèi)容審核團(tuán)隊(duì)。

SmartNews的Narayan表示，由于大公司在安全問題上的投入不夠，他們正在疲于應(yīng)對(duì)源源不斷的惡意活動(dòng)。隨著不當(dāng)內(nèi)容數(shù)量的增加，“信任侵蝕”成為他們不得不面對(duì)的問題。

“從長(zhǎng)遠(yuǎn)來看，重新獲得消費(fèi)者信任將非常困難，”納拉揚(yáng)補(bǔ)充道。

Meta和亞馬遜的裁員是為了應(yīng)對(duì)投資者的需求以及收入和股價(jià)的大幅下跌，而Twitter的裁員則是因?yàn)楣疽资帧?/p>

去年10月，埃隆·馬斯克(ElonMusk)以440億美元完成對(duì)Twitter的收購(gòu)后，幾乎就立即開始大規(guī)模裁員。曾擔(dān)任Twitter機(jī)器學(xué)習(xí)道德、透明度和問責(zé)團(tuán)隊(duì)主管的魯曼·喬杜里(RummanChowdhury)表示，Twitter人工智能道德團(tuán)隊(duì)原本有17人，裁員后只剩下1人。

喬杜里說，團(tuán)隊(duì)成員的筆記本電腦被遠(yuǎn)程關(guān)閉后才知道自己的情況。幾個(gè)小時(shí)后，他們收到了公司發(fā)來的電子郵件通知。

“我剛剛開始評(píng)估我們的員工并組建我們的人工智能紅隊(duì)，以便我們能夠道德地面對(duì)我們的模型并實(shí)施它們，”喬杜里說。“感覺就像我們都在昂首闊步，毯子被拿走了。”

喬杜里表示，他們的計(jì)劃包括開發(fā)“算法放大監(jiān)控機(jī)制”，通過跟蹤選舉和政黨動(dòng)態(tài)來了解“內(nèi)容是否被不當(dāng)放大”。

Chowdhury提到了2021年7月的一個(gè)項(xiàng)目，當(dāng)時(shí)Twitter的人工智能團(tuán)隊(duì)領(lǐng)導(dǎo)了業(yè)界首個(gè)算法偏差賞金競(jìng)賽。他們邀請(qǐng)外部人士對(duì)其平臺(tái)進(jìn)行偏見審計(jì)并將結(jié)果公開。

喬杜里擔(dān)心馬斯克“正在積極拋棄我們現(xiàn)在所做的一切”。

“現(xiàn)在沒有內(nèi)部問責(zé)，”她說。“我們?yōu)閮蓚€(gè)產(chǎn)品團(tuán)隊(duì)提供服務(wù)，并確保幕后工作對(duì)平臺(tái)上的用戶是公平的。”

推特尚未發(fā)表評(píng)論。

廣告商也正在遠(yuǎn)離聲譽(yù)風(fēng)險(xiǎn)增加的地方。

SensorTower的數(shù)據(jù)顯示，今年第一季度美國(guó)在Twitter上支出最多的10大類廣告商中，有6個(gè)類別的支出同比減少，合計(jì)減少了53%。該網(wǎng)站最近還因允許傳播暴力圖像和視頻而引發(fā)爭(zhēng)議。

聊天機(jī)器人的普及使問題變得更加復(fù)雜。這些人工智能模型與ChatGPT類似，使不良行為者可以輕松創(chuàng)建包含各種內(nèi)容的虛假帳戶。來自艾倫人工智能研究所、普林斯頓大學(xué)和佐治亞理工學(xué)院的研究人員測(cè)試了ChatGPT的API，發(fā)現(xiàn)內(nèi)容“毒性”最多可增加6倍，具體取決于企業(yè)分配給聊天機(jī)器人的功能。定位，例如是客戶服務(wù)代表還是虛擬助理。

監(jiān)管機(jī)構(gòu)也在密切關(guān)注人工智能不斷擴(kuò)大的影響，以及公司縮減人工智能道德、信任和安全團(tuán)隊(duì)的努力。聯(lián)邦貿(mào)易委員會(huì)律師邁克爾·阿特森在本月早些時(shí)候的一篇博客文章中指出了這一悖論。

“考慮到對(duì)新人工智能工具使用的擔(dān)憂，現(xiàn)在可能不是公司構(gòu)建或部署此類工具來取代人工智能道德團(tuán)隊(duì)的最佳時(shí)機(jī)，”阿特森寫道。“如果聯(lián)邦貿(mào)易委員會(huì)打電話詢問此事“如果你想讓我們相信你已經(jīng)充分評(píng)估了風(fēng)險(xiǎn)并減輕了傷害，那么這些壓縮措施可能并不明智。”

風(fēng)向標(biāo)梅塔

多年來，科技行業(yè)經(jīng)歷了漫長(zhǎng)的牛市，為頂級(jí)互聯(lián)網(wǎng)平臺(tái)帶來了巨額資金，Meta也抓住了這個(gè)機(jī)會(huì)，成為許多專家眼中的道德和安全領(lǐng)導(dǎo)者。

該公司多年來一直在招募信任和安全團(tuán)隊(duì)，其中許多人具有社會(huì)科學(xué)背景。他們希望這樣做，可以避免2016年美國(guó)總統(tǒng)大選重演。當(dāng)時(shí)，F(xiàn)acebook正經(jīng)歷大量錯(cuò)誤信息，最終導(dǎo)致2018年的劍橋分析丑聞。該丑聞暴露了第三方如何非法使用Facebook用戶數(shù)據(jù)。

但到了2022年，一切都急轉(zhuǎn)直下：在Meta的廣告業(yè)務(wù)和股價(jià)遭受重創(chuàng)后，扎克伯格進(jìn)入了緊縮模式，為那些抱怨該公司過于臃腫的投資者歡呼。

除了事實(shí)核查項(xiàng)目之外，研究人員、工程師、用戶設(shè)計(jì)專家和其他從事社會(huì)問題工作的員工也遭到了裁員。四名前Meta員工表示，專門處理虛假信息的團(tuán)隊(duì)正在被削減。

去年11月Meta進(jìn)行第一輪裁員之前，該公司已開始將誠(chéng)信團(tuán)隊(duì)整合為一個(gè)部門。據(jù)前員工稱，去年9月，Meta將處理社會(huì)問題的中央誠(chéng)信團(tuán)隊(duì)與處理廣告、垃圾郵件和虛假賬戶等商業(yè)問題的商業(yè)誠(chéng)信團(tuán)隊(duì)合并。

Meta信任與安全團(tuán)隊(duì)的前員工表示，在接下來的幾個(gè)月里，隨著更廣泛的緊縮計(jì)劃席卷整個(gè)公司，他們的許多同事都生活在裁員的陰影之中，經(jīng)理們也看不到自己的工作，這對(duì)Meta的利潤(rùn)產(chǎn)生了哪些影響？

例如，不需要太多資源的項(xiàng)目可以得到批準(zhǔn)，而旨在改變政策的長(zhǎng)期項(xiàng)目則更難獲得支持。在這樣的系統(tǒng)下，員工更有可能從事可管理的任務(wù)，這樣他們就可以在六個(gè)月的績(jī)效評(píng)估中展示結(jié)果。

裁員前離職的Meta前項(xiàng)目經(jīng)理拉維·艾耶(RaviIyer)表示，他認(rèn)識(shí)的許多在設(shè)計(jì)和政策變化中發(fā)揮關(guān)鍵作用的人也在裁員中失去了工作，這比內(nèi)容更重要。審核團(tuán)隊(duì)的裁員更是令人痛心。

“我認(rèn)為我們不應(yīng)該理所當(dāng)然地認(rèn)為信任和安全團(tuán)隊(duì)的萎縮必然會(huì)使平臺(tái)變得更糟，”現(xiàn)任南加州大學(xué)技術(shù)心理研究所所長(zhǎng)的艾耶說。“但我發(fā)現(xiàn)，許多被解雇的人是最了解重新思考這些平臺(tái)的底層設(shè)計(jì)的人。如果平臺(tái)不打算投資調(diào)整已被證明有害的設(shè)計(jì)，那么我們都應(yīng)該擔(dān)心。”

Meta發(fā)言人此前淡化了裁員對(duì)虛假信息部門的影響：“該團(tuán)隊(duì)正在并入更廣泛的內(nèi)容誠(chéng)信團(tuán)隊(duì)，該團(tuán)隊(duì)規(guī)模更大，專注于整個(gè)公司的誠(chéng)信工作。”

但知情人士表示，裁員之后，負(fù)責(zé)處理虛假信息的Meta員工確實(shí)減少了。

對(duì)于人工智能、誠(chéng)信與安全以及內(nèi)容審核領(lǐng)域的專業(yè)人士來說，就業(yè)前景似乎非常渺茫。

剛剛從社交媒體公司解雇的人表示，隨著公司繼續(xù)勒緊褲腰帶，他們可以申請(qǐng)的職位并不多。一位前Meta員工表示，他在面試微軟和谷歌的信任和安全職位后，突然被淘汰了。

一位Meta前員工表示，該公司信任度和安全性的下降可能會(huì)對(duì)規(guī)模較小的同行和初創(chuàng)公司產(chǎn)生影響，這些公司似乎“跟隨Meta進(jìn)行了裁員”。

Twitter前人工智能道德負(fù)責(zé)人喬杜里表示，這些類型的工作肯定會(huì)成為裁員的目標(biāo)，因?yàn)椤八鼈儾粫?huì)讓產(chǎn)品變得更有利可圖”。

“我認(rèn)為這是一個(gè)完全錯(cuò)誤的框架，”她說。“但如果你的價(jià)值是公司不被起訴，或者人們不受到傷害，那么就很難證明你的價(jià)值。當(dāng)我們的工作結(jié)束時(shí)，沒有鮮花和掌聲，但它可以創(chuàng)造一個(gè)安全有保障的社區(qū)。這可以創(chuàng)造長(zhǎng)期的財(cái)務(wù)價(jià)值，但從每個(gè)季度的財(cái)務(wù)報(bào)告中很難衡量這背后的意義。”

一名前Twtich員工透露，公司信任和安全團(tuán)隊(duì)中有人知道在哪里可以發(fā)現(xiàn)危險(xiǎn)活動(dòng)。這對(duì)于游戲行業(yè)至關(guān)重要，因?yàn)橛螒虮旧砭褪且环N“獨(dú)特的野獸”。

現(xiàn)在，很少有人參觀這些犯罪分子藏身、網(wǎng)絡(luò)欺凌活動(dòng)猖獗的“黑暗、可怕的地方”。

更重要的是，沒有人確切知道情況會(huì)有多糟糕。

來自：新浪科技