正在閱讀:

世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)得主:算法帶有偏見,需關(guān)注公平性與多元化

掃一掃下載界面新聞APP

世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)得主:算法帶有偏見,需關(guān)注公平性與多元化

算法和AI系統(tǒng)之所以強(qiáng)大,是因?yàn)樗鼈兺瑫r(shí)擁有強(qiáng)大的計(jì)算資源和海量人類行為數(shù)據(jù)。

圖片來(lái)源:圖蟲創(chuàng)意

界面新聞?dòng)浾?| 黃景源

界面新聞編輯 | 彭朋

“還有什么工作不可能被AI取代,什么工作可以由AI催生?”面對(duì)這個(gè)具有普遍性的困惑,計(jì)算機(jī)科學(xué)領(lǐng)域杰出學(xué)者喬恩·克萊因伯格(Jon Kleinberg)坦言,我不知道

10月21日,第九期浦江科學(xué)大師講壇在復(fù)旦大學(xué)相輝堂舉行,康奈爾大學(xué)計(jì)算機(jī)科學(xué)和信息科學(xué)講席教授喬恩·克萊因伯格進(jìn)行主旨演講。

喬恩·克萊因伯格是智能科學(xué)領(lǐng)域近三十年來(lái)的領(lǐng)軍人物之一,他的研究跨越了從計(jì)算機(jī)網(wǎng)絡(luò)路由到數(shù)據(jù)挖掘再到生物結(jié)構(gòu)比對(duì)等諸多領(lǐng)域。

值得一提的是,喬恩·克萊因伯格在今年9月被授予2024世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)(WLA Prize,下稱頂科協(xié)獎(jiǎng)),以表彰他在計(jì)算機(jī)科學(xué)與社會(huì)科學(xué)交叉領(lǐng)域作出的開創(chuàng)性貢獻(xiàn),包括他在社會(huì)網(wǎng)絡(luò)和算法公平性領(lǐng)域發(fā)揮的智識(shí)領(lǐng)導(dǎo)力。

據(jù)悉,這是頂科協(xié)獎(jiǎng)獲獎(jiǎng)?wù)邅?lái)上海進(jìn)行學(xué)術(shù)交流活動(dòng)的首場(chǎng)活動(dòng),10月25日,2024世界頂尖科學(xué)家論壇將在臨港新片區(qū)舉辦。

2024年諾貝爾三大科學(xué)獎(jiǎng)項(xiàng)中,物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)都與人工智能研究相關(guān)。對(duì)此,喬恩·克萊因伯格表示,算法和AI系統(tǒng)之所以強(qiáng)大,是因?yàn)樗鼈兺瑫r(shí)擁有強(qiáng)大的計(jì)算資源和海量人類行為數(shù)據(jù)。但所有科學(xué)活動(dòng)都是人類功能的延伸,如果沒(méi)有人類的觀察和思考,我們就不可能推進(jìn)這些科學(xué)工作。

喬恩·克萊因伯格接受采訪。記者拍攝

過(guò)去十年以來(lái),人工智能技術(shù)的發(fā)展使互聯(lián)網(wǎng)的發(fā)展進(jìn)入第三階段。在這個(gè)過(guò)程中,算法發(fā)揮了至關(guān)重要的作用,它們能夠處理海量的信息,并從中提取有價(jià)值的部分。

隨著技術(shù)發(fā)展,人們對(duì)算法決策在公平性、隱私、透明度上的擔(dān)憂與日俱增??巳R因伯格早在20年前就開始關(guān)注并思考這一系列問(wèn)題。數(shù)十年來(lái),他的研究形成了一種特色,即探索作為工具的計(jì)算機(jī),在與人的特質(zhì)互動(dòng)中所產(chǎn)生的局限、隱患和可能性。

喬恩·克萊因伯格表示,有效利用機(jī)器學(xué)習(xí)和人工智能技術(shù),能讓當(dāng)前以人工智能作為基礎(chǔ)的互聯(lián)網(wǎng)生態(tài)體系更為健全。

當(dāng)前,克萊因伯格致力于探索如何定義及實(shí)現(xiàn)算法公平,尤其是在算法輔助人類做決定的場(chǎng)景。

他表示,與人類決策者相比,算法沒(méi)有直接動(dòng)機(jī)表現(xiàn)出偏見,盡管如此,算法預(yù)測(cè)中還是存在許多潛在的偏見來(lái)源。但是,良好規(guī)范的算法可以使偏見和歧視更容易被檢測(cè),因此在設(shè)計(jì)算法時(shí),必須考慮到多元化的公平標(biāo)準(zhǔn),并開發(fā)新的技術(shù)方法。

克萊因伯格還強(qiáng)調(diào),除了偏見,算法還可能存在文化單一問(wèn)題。如果大家都使用同一種算法進(jìn)行決策,也許會(huì)導(dǎo)致決定和文化都高度趨同。在他看來(lái),人類在使用算法工具的時(shí)候,設(shè)計(jì)者、使用者、研究者都需要保持一定的多元性。

央視新聞援引《中國(guó)新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告2024》指出,中國(guó)人工智能企業(yè)數(shù)量已經(jīng)超過(guò)4000家,人工智能已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量和戰(zhàn)略性技術(shù)。

數(shù)據(jù)顯示,2023年中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5784億元,增速13.9%。我國(guó)生成式人工智能的企業(yè)采用率已達(dá)15%,市場(chǎng)規(guī)模約為14.4萬(wàn)億元。

在被問(wèn)及對(duì)中國(guó)人工智能產(chǎn)業(yè)的建議時(shí),克萊因伯格表示,計(jì)算機(jī)領(lǐng)域的特性之一,就是學(xué)界產(chǎn)生的思想和在工業(yè)環(huán)境中最終被證明有用的想法之間,通常存在許多互動(dòng)。他建議,學(xué)界與產(chǎn)業(yè)界要保持技術(shù)、人才合作,打通產(chǎn)學(xué)研鏈條。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)得主:算法帶有偏見,需關(guān)注公平性與多元化

算法和AI系統(tǒng)之所以強(qiáng)大,是因?yàn)樗鼈兺瑫r(shí)擁有強(qiáng)大的計(jì)算資源和海量人類行為數(shù)據(jù)。

圖片來(lái)源:圖蟲創(chuàng)意

界面新聞?dòng)浾?| 黃景源

界面新聞編輯 | 彭朋

“還有什么工作不可能被AI取代,什么工作可以由AI催生?”面對(duì)這個(gè)具有普遍性的困惑,計(jì)算機(jī)科學(xué)領(lǐng)域杰出學(xué)者喬恩·克萊因伯格(Jon Kleinberg)坦言,我不知道。

10月21日,第九期浦江科學(xué)大師講壇在復(fù)旦大學(xué)相輝堂舉行,康奈爾大學(xué)計(jì)算機(jī)科學(xué)和信息科學(xué)講席教授喬恩·克萊因伯格進(jìn)行主旨演講。

喬恩·克萊因伯格是智能科學(xué)領(lǐng)域近三十年來(lái)的領(lǐng)軍人物之一,他的研究跨越了從計(jì)算機(jī)網(wǎng)絡(luò)路由到數(shù)據(jù)挖掘再到生物結(jié)構(gòu)比對(duì)等諸多領(lǐng)域。

值得一提的是,喬恩·克萊因伯格在今年9月被授予2024世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)(WLA Prize,下稱頂科協(xié)獎(jiǎng)),以表彰他在計(jì)算機(jī)科學(xué)與社會(huì)科學(xué)交叉領(lǐng)域作出的開創(chuàng)性貢獻(xiàn),包括他在社會(huì)網(wǎng)絡(luò)和算法公平性領(lǐng)域發(fā)揮的智識(shí)領(lǐng)導(dǎo)力。

據(jù)悉,這是頂科協(xié)獎(jiǎng)獲獎(jiǎng)?wù)邅?lái)上海進(jìn)行學(xué)術(shù)交流活動(dòng)的首場(chǎng)活動(dòng),10月25日,2024世界頂尖科學(xué)家論壇將在臨港新片區(qū)舉辦。

2024年諾貝爾三大科學(xué)獎(jiǎng)項(xiàng)中,物理學(xué)獎(jiǎng)和化學(xué)獎(jiǎng)都與人工智能研究相關(guān)。對(duì)此,喬恩·克萊因伯格表示,算法和AI系統(tǒng)之所以強(qiáng)大,是因?yàn)樗鼈兺瑫r(shí)擁有強(qiáng)大的計(jì)算資源和海量人類行為數(shù)據(jù)。但所有科學(xué)活動(dòng)都是人類功能的延伸,如果沒(méi)有人類的觀察和思考,我們就不可能推進(jìn)這些科學(xué)工作。

喬恩·克萊因伯格接受采訪。記者拍攝

過(guò)去十年以來(lái),人工智能技術(shù)的發(fā)展使互聯(lián)網(wǎng)的發(fā)展進(jìn)入第三階段。在這個(gè)過(guò)程中,算法發(fā)揮了至關(guān)重要的作用,它們能夠處理海量的信息,并從中提取有價(jià)值的部分。

隨著技術(shù)發(fā)展,人們對(duì)算法決策在公平性、隱私、透明度上的擔(dān)憂與日俱增??巳R因伯格早在20年前就開始關(guān)注并思考這一系列問(wèn)題。數(shù)十年來(lái),他的研究形成了一種特色,即探索作為工具的計(jì)算機(jī),在與人的特質(zhì)互動(dòng)中所產(chǎn)生的局限、隱患和可能性。

喬恩·克萊因伯格表示,有效利用機(jī)器學(xué)習(xí)和人工智能技術(shù),能讓當(dāng)前以人工智能作為基礎(chǔ)的互聯(lián)網(wǎng)生態(tài)體系更為健全。

當(dāng)前,克萊因伯格致力于探索如何定義及實(shí)現(xiàn)算法公平,尤其是在算法輔助人類做決定的場(chǎng)景。

他表示,與人類決策者相比,算法沒(méi)有直接動(dòng)機(jī)表現(xiàn)出偏見,盡管如此,算法預(yù)測(cè)中還是存在許多潛在的偏見來(lái)源。但是,良好規(guī)范的算法可以使偏見和歧視更容易被檢測(cè),因此在設(shè)計(jì)算法時(shí),必須考慮到多元化的公平標(biāo)準(zhǔn),并開發(fā)新的技術(shù)方法。

克萊因伯格還強(qiáng)調(diào),除了偏見,算法還可能存在文化單一問(wèn)題。如果大家都使用同一種算法進(jìn)行決策,也許會(huì)導(dǎo)致決定和文化都高度趨同。在他看來(lái),人類在使用算法工具的時(shí)候,設(shè)計(jì)者、使用者、研究者都需要保持一定的多元性。

央視新聞援引《中國(guó)新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告2024》指出,中國(guó)人工智能企業(yè)數(shù)量已經(jīng)超過(guò)4000家,人工智能已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量和戰(zhàn)略性技術(shù)。

數(shù)據(jù)顯示,2023年中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5784億元,增速13.9%。我國(guó)生成式人工智能的企業(yè)采用率已達(dá)15%,市場(chǎng)規(guī)模約為14.4萬(wàn)億元。

在被問(wèn)及對(duì)中國(guó)人工智能產(chǎn)業(yè)的建議時(shí),克萊因伯格表示,計(jì)算機(jī)領(lǐng)域的特性之一,就是學(xué)界產(chǎn)生的思想和在工業(yè)環(huán)境中最終被證明有用的想法之間,通常存在許多互動(dòng)。他建議,學(xué)界與產(chǎn)業(yè)界要保持技術(shù)、人才合作,打通產(chǎn)學(xué)研鏈條。

未經(jīng)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究。