人民網(wǎng)上海7月7日電 （記者唐小麗）高質(zhì)量的語料是確保人工智能價(jià)值對齊的關(guān)鍵要素。7月6日，2024世界人工智能大會(huì)在滬舉辦期間，以“語料筑基，智生時(shí)代”為主題的首場語料論壇舉行。論壇圍繞高質(zhì)量語料數(shù)據(jù)如何高效供給賦能大模型產(chǎn)業(yè)發(fā)展，向市場傳遞專業(yè)化、鏈接型、前瞻性的語料生態(tài)設(shè)計(jì)理念。

語料論壇現(xiàn)場。人民網(wǎng)記者 王初攝

論壇上，人民網(wǎng)、人民日報(bào)社傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室聯(lián)合上海庫帕思科技有限公司正式發(fā)布人工智能價(jià)值對齊“五有”框架。

人民網(wǎng)、傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室相關(guān)負(fù)責(zé)人表示，建設(shè)多維度價(jià)值對齊的語料庫，應(yīng)該堅(jiān)持“以人為本、智能向善、造福人類”的原則，鼓勵(lì)通過國際合作和實(shí)際行動(dòng)，幫助世界各國加強(qiáng)人工智能能力建設(shè)。這個(gè)體系分成五個(gè)主要維度，分別是：體現(xiàn)遵循社會(huì)道德規(guī)范和法治精神的倫理價(jià)值維度、體現(xiàn)滿足個(gè)人和群體情感認(rèn)同交流和成長需求的情緒價(jià)值維度、體現(xiàn)助力大眾文化素養(yǎng)提升和促進(jìn)文明互鑒共進(jìn)的文化價(jià)值維度、體現(xiàn)推動(dòng)社會(huì)公平正義和可持續(xù)創(chuàng)新發(fā)展的社會(huì)價(jià)值維度、體現(xiàn)推動(dòng)科技創(chuàng)新與可控可治的技術(shù)價(jià)值維度。

倫理價(jià)值維度，希望人工智能是有德的。倫理價(jià)值是人類社會(huì)長期發(fā)展的文明積淀，是社會(huì)科學(xué)研究的重點(diǎn)領(lǐng)域，也是公眾日常行為生活的規(guī)范。倫理價(jià)值的語料來源及層次非常豐富，要構(gòu)建涵蓋基礎(chǔ)理論、歷史文化和現(xiàn)實(shí)生活等三大板塊的多角度語料內(nèi)容，全面反映倫理價(jià)值的內(nèi)涵與外延。

情緒價(jià)值維度，希望人工智能是有趣的。情緒價(jià)值服務(wù)于“技術(shù)為人類服務(wù)”的根本宗旨，希望人工智能將來的發(fā)展目標(biāo)能與人類共情、共鳴，這也是當(dāng)前人工智能發(fā)展的短板。該維度的語料庫建設(shè)具有很強(qiáng)的普適性，同時(shí)存在個(gè)性化、場景化和地域化等特定需求，希望構(gòu)建涵蓋治愈成長、互動(dòng)共鳴及自娛探索等三大板塊的多角度語料內(nèi)容，全面提升人工智能的情緒價(jià)值。

文化價(jià)值維度，希望人工智能是有品的。人工智能技術(shù)的發(fā)展和應(yīng)用，應(yīng)充分尊重和促進(jìn)不同文化之間的平等對話和交流，鼓勵(lì)文化多樣性和包容性。促進(jìn)當(dāng)代優(yōu)秀文化的傳播，堅(jiān)守傳統(tǒng)優(yōu)秀文化的根基，發(fā)揮人工智能在藝術(shù)創(chuàng)作和審美體驗(yàn)中的積極作用。重點(diǎn)構(gòu)建涵蓋中國元素、傳統(tǒng)文化及全球文化等三大板塊的多角度語料內(nèi)容，推廣各國文化發(fā)展和文明進(jìn)步過程中形成的精神財(cái)富和智慧積累，啟發(fā)人工智能在人文關(guān)懷、審美塑造和啟迪智慧方面的積極作用。

社會(huì)價(jià)值維度，希望人工智能是有序的。社會(huì)價(jià)值側(cè)的板塊語料，將體現(xiàn)人類普遍認(rèn)同的關(guān)于國家、民族、社會(huì)以及全人類層面的價(jià)值理念、處事原則和行為規(guī)范，重點(diǎn)從社會(huì)和諧、社會(huì)發(fā)展、全球治理三大板塊來進(jìn)行語料組織和建設(shè)，讓人工智能成為促進(jìn)全人類文明和發(fā)展的推動(dòng)力量。

技術(shù)價(jià)值維度，希望人工智能是有用的。安全性是實(shí)現(xiàn)技術(shù)價(jià)值對齊的首要前提，可靠性是確保人工智能系統(tǒng)廣泛應(yīng)用和獲得人類信賴的關(guān)鍵，可控性是保障人工智能系統(tǒng)依照人類預(yù)期行動(dòng)的基礎(chǔ)，公平性是實(shí)現(xiàn)技術(shù)普惠和避免社會(huì)不公的重要條件。要建設(shè)對人類有益的，對人工智能的安全性、可靠性、可控性和公平性進(jìn)行測評和風(fēng)險(xiǎn)評估的語料數(shù)據(jù)庫。

簡言之，就是希望人工智能在倫理價(jià)值上有德、情緒價(jià)值上有趣、文化價(jià)值上有品、社會(huì)價(jià)值上有序、技術(shù)價(jià)值上有用。

人工智能的多維度價(jià)值對齊是一個(gè)長期目標(biāo)，應(yīng)該采取發(fā)展與安全并重的策略，以問題為導(dǎo)向，做好總體設(shè)計(jì)規(guī)劃，有組織分階段實(shí)施，從技術(shù)、數(shù)據(jù)和應(yīng)用等多個(gè)方面細(xì)化推進(jìn)人工智能與人類在倫理、情緒、文化、社會(huì)、技術(shù)等方面的價(jià)值對齊。通過五個(gè)維度的語料庫價(jià)值對齊，最終實(shí)現(xiàn)弘揚(yáng)和平、發(fā)展、公平、正義、民主、自由的全人類共同價(jià)值。

分享讓更多人看到