(資料圖片)

在生成式語言大模型“百花齊放”的當(dāng)前，如何教育AI懂得人類的倫理道德？4月23日，新京報(bào)貝殼財(cái)經(jīng)記者獲悉，“智善·觀行”人工智能大模型倫理安全觀測站于今日正式發(fā)布，該平臺(tái)由中國科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心、遠(yuǎn)期人工智能研究中心聯(lián)合研發(fā)并提供服務(wù)。

“智善·觀行”名稱取自“察言觀行”，即通過匯聚公眾對(duì)人工智能大模型的倫理安全測試反饋來觀察評(píng)估現(xiàn)有人工智能大模型表現(xiàn)出的“道德品行”，從而為進(jìn)一步改善相關(guān)人工智能大模型提供參考依據(jù)，“智善·觀行”人工智能大模型倫理安全觀測站的中英文版同步發(fā)布（中文版地址：https://for-good.ai/large-ai-investigator）。

新京報(bào)貝殼財(cái)經(jīng)記者登錄上述網(wǎng)站發(fā)現(xiàn)，用戶可以向該平臺(tái)提交大模型輸出結(jié)果的案例，此外記者還看到了已提交的案例的部分公示，如4月22日有用戶提供了ChatGPT生成的某回答，并標(biāo)注認(rèn)為該相關(guān)回答違背社會(huì)文化習(xí)俗和倫理道德規(guī)范。

“智善·觀行”人工智能大模型倫理安全觀測平臺(tái)網(wǎng)站截圖

據(jù)了解，該平臺(tái)通過公眾參與、公眾反饋的眾包模式邀請(qǐng)公眾參與對(duì)不同企業(yè)、學(xué)術(shù)機(jī)構(gòu)等發(fā)布的人工智能大模型的倫理安全評(píng)估，并通過在線提交測試結(jié)果的形式反饋大模型輸出存在的倫理安全問題、以及輸出結(jié)果合乎倫理安全的案例。相關(guān)評(píng)估結(jié)果與問題在網(wǎng)上公開，一方面為涉及到的人工智能大模型提供幫助和反饋便于其自身的進(jìn)一步改進(jìn)，另一方面所有人工智能大模型的研發(fā)均可以參考其他模型存在的潛在問題以及合乎倫理安全的輸出，利用相關(guān)的問題與案例來改進(jìn)自身服務(wù)。

中國科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任曾毅表示，人工智能大模型實(shí)現(xiàn)智能向善需要大家的共同參與，通過公眾的“察言觀行”來群智群力，共同助力人工智能大模型倫理安全的提升與發(fā)展。

（文章來源：新京報(bào)）

關(guān)鍵詞：