近日，互聯(lián)網(wǎng)安全領(lǐng)域的活躍分子向英國通信監(jiān)管機(jī)構(gòu)Ofcom發(fā)出了一份緊急呼吁，要求該機(jī)構(gòu)對人工智能（AI）在關(guān)鍵風(fēng)險(xiǎn)評估中的使用進(jìn)行嚴(yán)格限制。這一呼吁的背景是，社交媒體巨頭meta公司宣布計(jì)劃將風(fēng)險(xiǎn)評估流程自動(dòng)化，這一消息引發(fā)了廣泛的關(guān)注和擔(dān)憂。

Ofcom在收到呼吁后表示，他們正在密切關(guān)注此事。此前，一份報(bào)告指出，meta公司旗下的Facebook、Instagram和WhatsApp等平臺(tái)，預(yù)計(jì)將有高達(dá)90%的風(fēng)險(xiǎn)評估工作由AI系統(tǒng)完成。這一消息引發(fā)了Ofcom對于AI在關(guān)鍵安全領(lǐng)域應(yīng)用的深入思考。

根據(jù)英國的《在線安全法案》，社交媒體平臺(tái)有責(zé)任評估平臺(tái)上可能出現(xiàn)的傷害風(fēng)險(xiǎn)，并采取相應(yīng)的緩解措施，特別是要保護(hù)兒童用戶免受傷害，并防止非法內(nèi)容的傳播。風(fēng)險(xiǎn)評估流程被視為該法案的重要組成部分，對于維護(hù)網(wǎng)絡(luò)環(huán)境的健康和安全至關(guān)重要。

莫莉?羅斯基金會(huì)、國家防止虐待兒童協(xié)會(huì)和互聯(lián)網(wǎng)觀察基金會(huì)等多個(gè)組織，聯(lián)合向Ofcom的首席執(zhí)行官梅蘭妮?道斯致信，表達(dá)了對AI驅(qū)動(dòng)風(fēng)險(xiǎn)評估的擔(dān)憂。他們在信中稱，這種自動(dòng)化風(fēng)險(xiǎn)評估是一種“倒退且令人高度擔(dān)憂的舉措”，并敦促Ofcom公開聲明，完全或主要通過自動(dòng)化生成的風(fēng)險(xiǎn)評估通常不應(yīng)被視為符合法案要求的“合適且充分”標(biāo)準(zhǔn)。

這些組織還要求Ofcom對平臺(tái)可能試圖簡化風(fēng)險(xiǎn)評估流程的假設(shè)提出質(zhì)疑，以確保網(wǎng)絡(luò)環(huán)境的持續(xù)安全和穩(wěn)定。

Ofcom的一位發(fā)言人回應(yīng)稱，他們已明確要求相關(guān)服務(wù)提供方告知風(fēng)險(xiǎn)評估的完成、審查和批準(zhǔn)情況。他們正在認(rèn)真考慮這封信中提出的關(guān)切，并將在適當(dāng)?shù)臅r(shí)候作出回應(yīng)。

然而，meta公司對此呼吁表示了不同意見。他們回應(yīng)稱，這封信故意歪曲了公司在安全方面的立場。meta表示，他們一直致力于遵守法規(guī)并保持高標(biāo)準(zhǔn)的安全措施。他們強(qiáng)調(diào)，公司并沒有使用AI來做出風(fēng)險(xiǎn)決策，而是開發(fā)了一種工具來幫助團(tuán)隊(duì)識(shí)別特定產(chǎn)品是否符合法律和政策要求。

meta的發(fā)言人指出，他們在人類監(jiān)督下使用技術(shù)，以提高管理有害內(nèi)容的能力，并強(qiáng)調(diào)公司的技術(shù)進(jìn)步顯著改善了安全結(jié)果。然而，一些業(yè)內(nèi)人士對此表示懷疑，認(rèn)為AI自動(dòng)化風(fēng)險(xiǎn)評估可能會(huì)降低識(shí)別的準(zhǔn)確性，從而給用戶帶來更高的風(fēng)險(xiǎn)。

值得注意的是，此前美國國家公共廣播電臺(tái)曾報(bào)道，meta計(jì)劃通過AI系統(tǒng)審批其算法更新和新的安全功能，而不再由員工進(jìn)行審查。這一消息引發(fā)了更多的擔(dān)憂和爭議。一位匿名的meta前高管表示，這種改變將使公司能夠更快地推出應(yīng)用更新和新功能，但可能會(huì)增加潛在問題的風(fēng)險(xiǎn)。

NPR還報(bào)道稱，meta正在考慮將青少年風(fēng)險(xiǎn)和虛假信息傳播監(jiān)測等敏感領(lǐng)域的審查流程自動(dòng)化。這一消息進(jìn)一步加劇了公眾對于AI在關(guān)鍵安全領(lǐng)域應(yīng)用的擔(dān)憂和質(zhì)疑。

在當(dāng)前的互聯(lián)網(wǎng)環(huán)境下，如何確保網(wǎng)絡(luò)環(huán)境的健康和安全是一個(gè)備受關(guān)注的問題。AI自動(dòng)化風(fēng)險(xiǎn)評估雖然可以提高效率，但也可能帶來潛在的風(fēng)險(xiǎn)和挑戰(zhàn)。因此，監(jiān)管機(jī)構(gòu)、企業(yè)和公眾需要共同努力，尋求更加安全、有效的風(fēng)險(xiǎn)評估方式，以確保網(wǎng)絡(luò)環(huán)境的持續(xù)穩(wěn)定和健康發(fā)展。