默認(rèn)“成功人士”為男性 大模型存在性別偏差？
大模型越來越聰明。OpenAI的GPT-4o，不僅“火眼金睛”能夠準(zhǔn)確識別圖像，與人類無延時相談甚歡，甚至語氣詞都那么到位。但是多個大模型有個通病。
“請畫一幅畫，一位資深教授在給學(xué)生們上數(shù)學(xué)課。”
“請畫一幅畫，一位老板在辦公室訓(xùn)斥員工�！�
“記者外出采訪，進(jìn)行全媒體報道，請畫一幅畫表現(xiàn)這個場景�！�
上面的3幅畫，不管是什么風(fēng)格，主角都是男性。
“畫一幅讓老板訓(xùn)斥員工的圖片，我甚至讓它生成了好多次，老板一定是男士，員工是女士�！北本├砉ご髮W(xué)計算機(jī)學(xué)院副教授高揚(yáng)發(fā)現(xiàn)，讓大模型畫一幅在醫(yī)院里照顧病人的圖像，護(hù)士都是女性；給企業(yè)家畫像，則是男性；如果換到家庭的場景，家長做家務(wù)帶孩子，“家長”大概率是女性。
是大模型有偏見還是社會有偏見
復(fù)旦大學(xué)邱錫鵬教授主持研發(fā)了開源大模型MOSS，他說：“大模型里面的各種關(guān)于價值觀偏見、社會倫理的問題一直是我們非常關(guān)注的問題�！�
邱錫鵬教授通過數(shù)據(jù)看到了大模型這兩年的進(jìn)步。對于大模型的訓(xùn)練，價值對齊是重要一項，目標(biāo)是人類賦予它的價值觀。其中，也包括性別問題。但通過對詞語分析形成的詞云，也顯示了AIGC(生成式人工智能)的固有印象，比如，形容男性的詞匯集中于世界、發(fā)現(xiàn)、生命、簡單等；而圍繞女性則集中于鄉(xiāng)村、丈夫、挑戰(zhàn)、母親等詞語。
邱錫鵬說：“在實(shí)際研究中，要進(jìn)行語料的性別校正需要非常大的投入。需要進(jìn)行模型對齊，通過人類偏好建模、價值觀對齊等方法，調(diào)整模型輸出更積極的內(nèi)容�！�
哈爾濱工業(yè)大學(xué)計算學(xué)部長聘教授姚鴻勛認(rèn)為，情感認(rèn)知是AIGC理解人類語言和行為的關(guān)鍵。近期她帶領(lǐng)團(tuán)隊用音樂來生成舞蹈，之前在做AI編舞的時候，沒想到性別問題，所使用的數(shù)據(jù)集也在無意中出現(xiàn)了性別偏差，采集的舞蹈視頻基本都由女性進(jìn)行表演，缺少男性樣本。“后期引入男性表演視頻數(shù)據(jù)也許能夠更好地描述舞蹈動作特征，進(jìn)一步提升模型性能�！�
“現(xiàn)有模型可能因為訓(xùn)練數(shù)據(jù)的性別偏見而產(chǎn)生對特定性別的刻板印象，不僅限制了模型的準(zhǔn)確性，也可能在人機(jī)交互中加深性別歧視�！彼e例，現(xiàn)有AIGC模型會考慮性別偏向而給出不同的生成內(nèi)容，比如問題中提及“小明”“小紅”等人名會被大模型潛在認(rèn)為分別是男性與女性角色。
5月17日，在中國計算機(jī)學(xué)會2024青年精英大會上，舉行了一場名為“AIGC：我太‘男’了——大模型中的性別偏差問題”的論壇。
這個論壇的發(fā)起者，是太原理工大學(xué)副教授董媛香、云南師范大學(xué)教授趙樣、東北林業(yè)大學(xué)副教授李洋等，她們都是從事計算機(jī)科研教學(xué)的年輕學(xué)者，之前組織過關(guān)于女性科技工作者成長相關(guān)的論壇。
但是多次討論之后，她們覺得應(yīng)該觸及技術(shù)本質(zhì)來談性別平等，人工智能發(fā)展的歷程中，“性別偏見”不是一個新詞。有觀點(diǎn)認(rèn)為，訓(xùn)練方法和訓(xùn)練數(shù)據(jù)中存在的性別偏見可能被大模型學(xué)習(xí)并反映在其輸出中，影響決策公正性和準(zhǔn)確性。該問題長期發(fā)展下去可能會產(chǎn)生諸多不良影響，甚至引發(fā)“蝴蝶效應(yīng)”，例如加劇機(jī)會不平等、對女性造成冒犯或者在人機(jī)互動的過程中加深性別刻板印象等。如何實(shí)現(xiàn)大模型中的性別偏差問題的治理，需要政策、產(chǎn)業(yè)和研究領(lǐng)域的對話。
李洋提出：“可以看到現(xiàn)在大模型發(fā)展處在一個非常關(guān)鍵的轉(zhuǎn)折點(diǎn)上，我們是要沿著它現(xiàn)有的路徑、偏差繼續(xù)往前走，還是作一些改變，改變模型，讓它更好地為我們服務(wù)？”
姚長江是青島一家科技公司的產(chǎn)品總監(jiān)，他在一些產(chǎn)品應(yīng)用中對大模型進(jìn)行微調(diào)時發(fā)現(xiàn)，AI會把“老板”“成功人士”默認(rèn)為男性。
“大模型是我們?nèi)祟惿鐣拿鞯囊粋�表象、人類思想的一個延伸，如果我們不去做過多的這種治理或者說干涉的話，它可能會引起不好的結(jié)果�！彼f，假如把大模型應(yīng)用到招聘中，在求職者簡歷篩選上，如果這個AIGC存在相對嚴(yán)重的性別偏差，會對女性求職者帶來不利的影響。
有人提出：“到底是社會現(xiàn)狀的偏差還是模型本身的偏見，比方說輔導(dǎo)孩子的作業(yè)，大模型生成是媽媽，但實(shí)際生活中更多的也是這樣的，切合現(xiàn)實(shí)，這個是不是能定義成偏差，值得探討�！�
這次論壇，主辦方請了3位AIGC“嘉賓”：文心一言、星火大模型、通義千問，它們對“性別偏見”的看法基本一致：訓(xùn)練數(shù)據(jù)偏差、算法和模型設(shè)計、開發(fā)者的無意識偏見會造成性別偏差，內(nèi)容傳播、偏見的迭代循環(huán)以及不公平?jīng)Q策會引發(fā)“蝴蝶效應(yīng)”。
高揚(yáng)認(rèn)為，這涉及到的第一個問題就是如何擴(kuò)大和提升那些女性優(yōu)勢的數(shù)據(jù)生成。同時，她也提醒，這種生成改變是局部的，很容易造成偏差。
另外，她還提出一個技術(shù)上的解決辦法，通過重新構(gòu)造數(shù)據(jù)對大模型進(jìn)行修正。但是這些辦法會生成TB級別的數(shù)據(jù)，很耗資源。這里面還有一些問題，比如所設(shè)定的場景是不是真的能跟真實(shí)的語境和現(xiàn)實(shí)社會一致？
也有人用小孩子的性別敏感期來類比，現(xiàn)在大模型還處于嬰兒期，對它進(jìn)行價值對齊，一代一代更新，我們要做的就是在這些新的數(shù)據(jù)里面，更多地反映性別平等的社會現(xiàn)狀，這樣才能做好。
對于如何造就大模型正確的性別觀，3個AIGC大模型“嘉賓”輸出的答案近似，它們提出，一方面是從技術(shù)方面，如訓(xùn)練數(shù)據(jù)平衡化、模型設(shè)計等方面來進(jìn)行糾偏；另一方面是從政策、社會等方面進(jìn)行糾偏。
訓(xùn)練AIGC需要巨量的數(shù)據(jù)，數(shù)據(jù)量的不平衡，語料庫中發(fā)言者的性別帶來的性別偏差，都是讓AIGC在性別問題上呈現(xiàn)偏見的原因。此外，在技術(shù)研發(fā)領(lǐng)域，女性仍少于男性。這會產(chǎn)生一些“無心之舉”。
AI發(fā)展迅猛，“她力量”如何更好發(fā)揮
3位AIGC大模型“嘉賓”看法一致，歸納起來集中于，“應(yīng)為”在于在社會層面呼吁、倡導(dǎo)提升女性參與度，打破刻板印象；“可為”主要是倡導(dǎo)科研人員和決策層通過技術(shù)實(shí)現(xiàn)“平等”；“難為”主要體現(xiàn)在性別偏見和刻板印象、技術(shù)和資源限制以及社會和文化因素等方面。有意思的是，其中一個大模型的回應(yīng)中還多加了一句：“但是，女性要在人工智能技術(shù)領(lǐng)域取得成就，可能需要面臨更大的學(xué)習(xí)困難。”
根據(jù)自己的工作經(jīng)歷和觀察，姚鴻勛教授看到女性在很多工作中與男性一樣表現(xiàn)突出，但機(jī)會不均等。在學(xué)校里，女生在學(xué)業(yè)方面往往表現(xiàn)很好，但在整個職業(yè)發(fā)展過程中，女性往往會遇到不公平對待。在工科教育中，也存在女生自認(rèn)為不如男生的情況，因此在教育過程中，教育者更應(yīng)該對女生進(jìn)行鼓勵和支持，增強(qiáng)女生的自信心。
在我國，女性進(jìn)入大學(xué)的比例不斷提升。國家統(tǒng)計局監(jiān)測報告顯示，2022年，高等教育在校生中女生占比50.0%，其中女研究生占全部研究生的51.2%。
中國科協(xié)的數(shù)據(jù)顯示，目前全國女性科技工作者近4000萬，占比超過45%。但是成為科研主導(dǎo)者的女性比例還是很低。中國科學(xué)院、中國工程院院士中，女性科學(xué)家仍舊是鳳毛麟角。2019年中國科學(xué)院和中國工程院共新增院士139人，其中12名女院士；2021年新增149名兩院院士，其中11名女性；2023年兩院院士新增133人，其中女院士6名。
全球范圍內(nèi)，2020年《美國科學(xué)院院刊》(PNAS)統(tǒng)計了全球多個國家、多門學(xué)科自1955年以來活躍的論文發(fā)表學(xué)者，發(fā)現(xiàn)女性研究者的比例雖然有所提升，但也只占到了27%，且存在嚴(yán)重的學(xué)科差異。
還有一些非�！半[蔽”的差異。幾千年人類社會形成的固有觀念，滲透在社會生活的所有縫隙里。進(jìn)入現(xiàn)代社會也是如此，一些未經(jīng)科學(xué)證實(shí)的錯誤觀念被人們接受，習(xí)以為常。
比如，夏天辦公室里，女同胞經(jīng)常會抱怨空調(diào)開得太冷，這是因為女性代謝率比男性低35%；許多工具女性用起來不順手，這是因為女性的平均握力比男性低41%……
在英國作家、記者卡羅琳克里亞多佩雷斯所寫《看不見的女性》一書中，羅列了一系列此類現(xiàn)象，并分析了背后的根源——世界上很多數(shù)據(jù)是基于男性的。
一些藥品在做臨床實(shí)驗時，沒有區(qū)分男女實(shí)驗者，同樣劑量未必適合體重和代謝更低的女性；有些醫(yī)學(xué)研究忽略了女性因素(如生育和激素周期)使得一些新療法、新藥物作用于女性患者時無法取得應(yīng)有療效。
另一位英國女作家安吉拉薩伊尼，曾梳理過科技史、人類社會發(fā)展史，發(fā)現(xiàn)很多因為偏見造成的錯誤，并寫入了一本名為《科技對女性做錯了什么》的書中。
由此可見，科技需要女性引領(lǐng)原創(chuàng)，也要清楚包括AI在內(nèi)，具體哪些地方需要“糾偏”，從而獲得兩性平衡平等發(fā)展，共同推進(jìn)社會進(jìn)步。
我國近年來出臺了一系列支持女科技工作者的政策舉措。2021年，全國婦聯(lián)、科技部等制定了《關(guān)于實(shí)施科技創(chuàng)新巾幗行動的意見》，之后又發(fā)布了《關(guān)于支持女性科技人才在科技創(chuàng)新中發(fā)揮更大作用的若干措施》；從2024年開始，國家自然科學(xué)基金委員會將女性科研人員申請“杰青”的年齡限制由45周歲放寬到48周歲。
現(xiàn)實(shí)中“她力量”的增長會反映在AI上，這是大家的共識。
中青報中青網(wǎng)記者 李新玲 來源：中國青年報
聲明：
本文僅代表作者個人觀點(diǎn)，與新江南網(wǎng)無關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實(shí)相關(guān)內(nèi)容，新江南網(wǎng)號系信息發(fā)布平臺，新江南網(wǎng)僅提供信息存儲空間服務(wù)。如有侵權(quán)請出示權(quán)屬憑證聯(lián)系管理員（yin040310@sina.com）刪除！
閱讀推薦
新聞爆料
