OpenAI前董事撰文批奥特曼：他营造“撒谎的有毒文化”，涉嫌“心理虐待”

划huà重zhòng点diǎn

① OpenAI两liǎng名míng前qián董dǒng事shì日rì前qián撰zhuàn文wén指出chū，私sī营yíng人rén工gōng智zhì能néng公gōng司sī不bù值zhí得dé信xìn任rèn，自zì我wǒ监jiān管guǎn在zài巨jù大dà利lì润rùn诱yòu惑huò下xià最zuì终会huì失效xiào，政zhèng府fǔ必bì须xū发fā挥huī积jī极jí作zuò用yòng。

② 两liǎng人rén曾céng是shìOpenAI董dǒng事shì会huì中zhōng仅jǐn有yǒu的de女nǚ性xìng，于yú去qù年nián11月yuè离lí职zhí。她tā们men都dōu支zhī持chí罢bà免miǎnCEO奥ào特tè曼màn，认rèn为wèi他tā创chuàng造zào了le“有yǒu害hài的de”工gōng作zuò环huán境。

图tú左zuǒ为wèi：海hǎi伦lún·托tuō纳（Helen Toner），图tú右yòu为wèi：塔tǎ莎shā·麦mài考kǎo利lì（Tasha McCauley）

腾téng讯xùn科kē技jì讯xùn据jù国guó外wài媒méi体tǐ报bào道dào，OpenAI前qián董dǒng事shì会huì成chéng员yuán海hǎi伦lún·托tuō纳（Helen Toner）和hé塔tǎ莎shā·麦mài考kǎo利lì（Tasha McCauley）日rì前qián撰zhuàn文wén谈tán到dào了le人rén工gōng智zhì能néng的de监jiān管guǎn问wèn题tí。

两liǎng人rén分fēn别bié于yú2018年nián和hé2021年nián加jiā入rùOpenAI董dǒng事shì会huì，也yě是shì董dǒng事shì会huì中zhōng仅jǐn有yǒu的de两liǎng名míng女nǚ性xìng。在zài奥ào特tè曼màn被bèi董dǒng事shì会huì罢bà免miǎn风fēng波平píng息后hòu，她tā们men两liǎng人rén于yú去qù年nián11月yuè离lí开kāiOpenAI董dǒng事shì会huì。

在zài最zuì新xīn文wén章zhāng中zhōng，她tā们men透tòu露lù，当dāng初chū投tóu票罢bà免miǎn奥ào特tè曼màn，是shì由yóu于yú奥ào特tè曼màn个gè人rén长期qī以yǐ来lái的de行xíng为wèi模mó式shì，董dǒng事shì会huì维wéi护hù公gōng司sī使shǐ命mìng的de能néng力lì受shòu到dào了le越yuè来lái越yuè大dà的de限xiàn制zhì。多duō位wèi高gāo层céng领lǐng导dǎo私sī下xià向xiàng董dǒng事shì会huì称chēng，奥ào特tè曼màn营yíng造zào了le一yī种zhǒng“撒sā谎的de有yǒu毒dú文wén化”，并bìng涉shè嫌xián“心xīn理lǐ虐待dài”行xíng为wèi。

她tā们men提tí到dào，自zì从cóng奥ào特tè曼màn重zhòng返fǎnOpenAI以yǐ来lái，一yī些xiē发fā展zhǎn动dòng态tài令lìng人rén担dān忧yōu，包bāo括kuò他tā重zhòng新xīn加jiā入rù董dǒng事shì会huì，以yǐ及jíOpenAI一yī些xiē专zhuān注zhù于yú安ān全quán领lǐng域yù的de高gāo级jí人rén才cái的de离lí职zhí。这zhè些xiē情况kuàng对duì于yúOpenAI在zài自zì我wǒ治zhì理lǐ方fāng面miàn的de实shí验yàn来lái说shuō，似shì乎预yù示shì着zhe一yī些xiē不bù利lì的de影yǐng响xiǎng。

她tā们men认rèn为wèi，为wèi了le让ràng人rén工gōng智zhì能néng的de发fā展zhǎn惠huì及jí所suǒ有yǒu人rén，政zhèng府fǔ现xiàn在zài就jiù必bì须xū开kāi始shǐ建jiàn立lì有yǒu效xiào的de监jiān管guǎn框kuāng架jià。

值zhí得dé一yī提tí的de是shì，今jīn年nián4月yuè，美měi国guó成chéng立lì人rén工gōng智zhì能néng安ān全quán委wěi员yuán会huì，该gāi委wěi员yuán会huì将jiāng为wèi美měi国guó关guān键基jī础chǔ设shè施shī中zhōng“安ān全quán开kāi发fā和hé部bù署人rén工gōng智zhì能néng”提tí供gōng建jiàn议yì。奥ào特tè曼màn在zài22名míng委wěi员yuán会huì成chéng员yuán之zhī列liè，此cǐ外wài还hái包bāo括kuò黄仁勋、皮pí查chá伊yī等děng科kē技jì公gōng司sī领lǐng导dǎo人rén。虽然rán也yě有yǒu来lái自zì非fēi营yíng利lì组zǔ织zhī的de代dài表biǎo，但dàn总体tǐ而ér言yán，营yíng利lì性xìng公gōng司sī领lǐng导dǎo人rén所suǒ占比bǐ例lì过guò高gāo。

以yǐ下xià为wèi二èr人rén联lián名míng撰zhuàn写xiě的de文wén章zhāng全quán文wén：

在zài推tuī动dòng革gé命mìng性xìng新xīn技jì术shù发fā展zhǎn的de同tóng时shí，私sī企qǐ能néng否fǒu兼jiān顾gù股gǔ东dōng利lì益yì与yǔ全quán球利lì益yì？当dāng我wǒ们men二èr人rén在zài2018年nián和hé2021年nián分fēn别bié加jiā入rùOpenAI董dǒng事shì会huì时shí，都dōu曾céng对duìOpenAI创chuàng新xīn的de自zì我wǒ治zhì理lǐ方fāng法fǎ抱有yǒu谨jǐn慎shèn的de乐lè观guān态tài度dù，期qī待dài它tā能néng为wèi人rén工gōng智zhì能néng的de负fù责zé任rèn发fā展zhǎn提tí供gōng示shì范。但dàn经jīng验yàn教jiào训告gào诉sù我wǒ们men，自zì我wǒ治zhì理lǐ难nán以yǐ抵御利lì润rùn的de驱qū动dòng。面miàn对duì人rén工gōng智zhì能néng的de双刃剑，我wǒ们men不bù能néng仅jǐn凭píng假jiǎ设shè认rèn为wèi激励lì因yīn素总是shì与yǔ公gōng共gòng利lì益yì一yī致zhì。为wèi了le让ràng人rén工gōng智zhì能néng的de发fā展zhǎn成chéng果惠huì及jí全quán人rén类lèi，政zhèng府fǔ必bì须xū立lì即jí着zhe手shǒu建jiàn立lì有yǒu效xiào的de监jiān管guǎn框kuāng架jià。

OpenAI的de创chuàng立lì，旨zhǐ在zài实shí现xiàn一yī个gè崇chóng高gāo的de目mù标biāo：确què保bǎo通tōng用yòng人rén工gōng智zhì能néng（AGI）能néng够gòu为wèi全quán人rén类lèi带dài来lái福fú祉。作zuò为wèi一yī个gè非fēi营yíng利lì组zǔ织zhī，OpenAI的de成chéng立lì初chū衷zhōng是shì为wèi了le确què保bǎo通tōng用yòng人rén工gōng智zhì能néng能néng够gòu惠huì及jí全quán人rén类lèi，这zhè是shì一yī种zhǒng理lǐ论lùn上shàng能néng超chāo越yuè人rén类lèi智zhì能néng的de人rén工gōng智zhì能néng系统tǒng。为wèi了le筹chóu集jí资zī金，公gōng司sī随suí后hòu成chéng立lì了le一yī个gè营yíng利lì性xìng子zi公gōng司sī，但dàn非fēi营yíng利lì的de母mǔ公gōng司sī保bǎo持chí了le主zhǔ导dǎo地dì位wèi。这zhè种zhǒng独dú特tè的de结jié构gòu旨zhǐ在zài确què保bǎo公gōng司sī能néng够gòu坚jiān守其qí原始shǐ使shǐ命mìng，而ér董dǒng事shì会huì的de职zhí责zé是shì维wéi护hù这zhè一yī使shǐ命mìng。

虽然rán这zhè是shì一yī次创chuàng新xīn的de尝试shì，但dàn遗憾hàn的de是shì，结jié果并bìng未wèi如rú预yù期qī般成chéng功gōng。

去qù年nián11月yuè，为wèi了le挽救自zì我wǒ监jiān管guǎn架jià构gòu，OpenAI时shí任rèn董dǒng事shì会huì作zuò出chū了le一yī项xiàng重zhòng大dà决jué策cè，解jiě雇gù了leCEO山shān姆·奥ào特tè曼màn。由yóu于yú奥ào特tè曼màn个gè人rén长期qī以yǐ来lái的de行xíng为wèi模mó式shì，董dǒng事shì会huì维wéi护hù公gōng司sī使shǐ命mìng的de能néng力lì受shòu到dào了le越yuè来lái越yuè大dà的de限xiàn制zhì。据jù我wǒ们men了le解jiě，这zhè些xiē行xíng为wèi不bù仅jǐn削xuē弱ruò了le董dǒng事shì会huì对duì关guān键决jué策cè和hé内nèi部bù安ān全quán协xié议yì的de监jiān督dū能néng力lì，还hái引yǐn发fā了le其qí他tā问wèn题tí。多duō位wèi高gāo层céng领lǐng导dǎo私sī下xià向xiàng董dǒng事shì会huì表biǎo达dá了le深shēn切qiè的de担dān忧yōu，他tā们men认rèn为wèi奥ào特tè曼màn营yíng造zào了le一yī种zhǒng“撒sā谎的de有yǒu毒dú文wén化”，并bìng涉shè嫌xián“心xīn理lǐ虐待dài”行xíng为wèi。

根据jùOpenAI的de说shuō法fǎ，一yī项xiàng内nèi部bù调diào查chá发fā现xiàn董dǒng事shì会huì在zài解jiě雇gù奥ào特tè曼màn时shí“行xíng使shǐ了le其qí广guǎng泛fàn的de自zì由yóu裁cái量liàng权quán”，但dàn也yě得dé出chū结jié论lùn认rèn为wèi他tā的de行xíng为wèi未wèi达dá到dào“必bì须xū解jiě除chú职zhí务wù”的de程chéng度dù。不bù过guò，OpenAI并bìng未wèi提tí供gōng足zú够gòu的de具jù体tǐ细节jié来lái支zhī持chí这zhè一yī结jié论lùn。无wú论lùn是shì对duì员yuán工gōng、媒méi体tǐ还hái是shì公gōng众zhòng，OpenAI董dǒng事shì会huì都dōu未wèi将jiāng调diào查chá报bào告gào公gōng之zhī于yú众zhòng。这zhè一yī事shì件jiàn凸tū显xiǎn了le在zài人rén工gōng智zhì能néng领lǐng域yù自zì我wǒ监jiān管guǎn的de挑tiāo战zhàn，同tóng时shí也yě引yǐn发fā了le对duì公gōng司sī治zhì理lǐ、透tòu明míng度dù和hé道dào德dé标biāo准的de深shēn入rù思考kǎo。随suí着zhe人rén工gōng智zhì能néng技jì术shù的de迅xùn速sù发fā展zhǎn，如rú何hé确què保bǎo技jì术shù的de伦lún理lǐ使shǐ用yòng和hé公gōng司sī的de社shè会huì责zé任rèn，已yǐ成chéng为wèi业yè界jiè和hé监jiān管guǎn机jī构gòu必bì须xū面miàn对duì的de重zhòng要yào议yì题tí。

关guān于yú是shì否fǒu应yīng该gāi普pǔ遍biàn要yào求qiú“强qiáng制zhì解jiě除chú”CEO职zhí务wù的de问wèn题tí，我wǒ们men可kě以yǐ留liú待dài其qí他tā时shí间再zài进jìn行xíng深shēn入rù讨tǎo论lùn。然rán而ér，在zàiOpenAI这zhè个gè特tè殊shū案àn例lì中zhōng，考kǎo虑lǜ到dào董dǒng事shì会huì有yǒu责zé任rèn提tí供gōng独dú立lì的de监jiān督dū，并bìng保bǎo护hù公gōng司sī的de公gōng共gòng利lì益yì使shǐ命mìng，我wǒ们men坚jiān定dìng地dì支zhī持chí董dǒng事shì会huì解jiě除chú奥ào特tè曼mànCEO职zhí务wù的de决jué定dìng。我wǒ们men还hái注zhù意yì到dào，自zì从cóng奥ào特tè曼màn重zhòng返fǎn公gōng司sī以yǐ来lái，一yī些xiē发fā展zhǎn动dòng态tài令lìng人rén担dān忧yōu，包bāo括kuò他tā重zhòng新xīn加jiā入rù董dǒng事shì会huì，以yǐ及jíOpenAI一yī些xiē专zhuān注zhù于yú安ān全quán领lǐng域yù的de高gāo级jí人rén才cái的de离lí职zhí。这zhè些xiē情况kuàng对duì于yúOpenAI在zài自zì我wǒ治zhì理lǐ方fāng面miàn的de实shí验yàn来lái说shuō，似shì乎预yù示shì着zhe一yī些xiē不bù利lì的de影yǐng响xiǎng。

我wǒ们men所suǒ经jīng历lì的de事shì件jiàn传递了le一yī个gè重zhòng要yào的de警示shì：在zài人rén工gōng智zhì能néng的de推tuī广guǎng过guò程chéng中zhōng，社shè会huì不bù能néng袖xiù手shǒu旁páng观guān，任rèn由yóu私sī营yíng科kē技jì公gōng司sī全quán权quán掌zhǎng控。在zài私sī营yíng部bù门mén，确què实shí有yǒu许xǔ多duō真zhēn诚chéng且qiě值zhí得dé称chēng赞的de努nǔ力lì，旨zhǐ在zài负fù责zé任rèn地dì推tuī动dòng这zhè项xiàng技jì术shù的de发fā展zhǎn。然rán而ér，即jí使shǐ这zhè些xiē努nǔ力lì背bèi后hòu的de意yì图tú是shì积jī极jí的de，如rú果没méi有yǒu有yǒu效xiào的de外wài部bù监jiān督dū，自zì我wǒ监jiān管guǎn很hěn容易yì变biàn得dé形同tóng虚xū设shè，特tè别bié是shì在zài面miàn对duì巨jù额利lì润rùn诱yòu惑huò时shí。因yīn此cǐ，政zhèng府fǔ必bì须xū采取qǔ积jī极jí行xíng动dòng，确què保bǎo人rén工gōng智zhì能néng的de发fā展zhǎn既jì能néng促cù进jìn创chuàng新xīn，又能néng保bǎo护hù公gōng共gòng利lì益yì，从cóng而ér避bì免miǎn潜qián在zài的de滥làn用yòng和hé风fēng险xiǎn。

然rán而ér，在zài过guò去qù数shù月yuè中zhōng，华huá盛shèng顿的de立lì法fǎ者zhě和hé硅guī谷的de投tóu资zī者zhě中zhōng，主zhǔ张对duì人rén工gōng智zhì能néng领lǐng域yù实shí行xíng最zuì小xiǎo化政zhèng府fǔ干gàn预yù的de呼声shēng愈发fā高gāo涨zhǎng。他tā们men倾qīng向xiàng于yú将jiāng这zhè种zhǒng立lì场chǎng与yǔ1990年nián代dài互hù联lián网wǎng行xíng业yè的de放fàng任rèn政zhèng策cè相xiāng提tí并bìng论lùn，并bìng声shēng称chēng这zhè种zhǒng政zhèng策cè曾céng催cuī生了le显xiǎn著zhe的de经jīng济jì增zēng长。然rán而ér，这zhè种zhǒng类lèi比bǐ并bìng不bù恰当dāng，其qí背bèi后hòu隐藏的de误wù导dǎo性xìng不bù容忽hū视shì。

在zài人rén工gōng智zhì能néng研yán究jiū和hé工gōng程chéng领lǐng域yù的de广guǎng大dà社shè群qún中zhōng，人rén们men普pǔ遍biàn认rèn识shí到dào开kāi发fā日rì益yì高gāo级jí的de人rén工gōng智zhì能néng技jì术shù所suǒ伴随suí的de高gāo风fēng险xiǎn和hé重zhòng大dà挑tiāo战zhàn。正zhèng如rú奥ào特tè曼màn本běn人rén所suǒ指出chū的de那nà样yàng：“平píng稳wěn过guò渡到dào一yī个gè拥yōng有yǒu超chāo级jí智zhì能néng的de世shì界jiè，可kě能néng是shì人rén类lèi历lì史shǐ上shàng最zuì为wèi关guān键、最zuì充chōng满mǎn希xī望wàng，同tóng时shí也yě最zuì令lìng人rén忧yōu虑lǜ的de事shì业yè。”许xǔ多duō杰出chū的de人rén工gōng智zhì能néng科kē学家jiā都dōu对duì他tā们men正zhèng在zài创chuàng造zào的de技jì术shù表biǎo达dá了le深shēn刻kè的de关guān切qiè，这zhè种zhǒng关guān切qiè已yǐ经jīng被bèi详xiáng尽记jì录，且qiě与yǔ早zǎo期qī互hù联lián网wǎng的de开kāi发fā者zhě--程chéng序xù员yuán和hé网wǎng络工gōng程chéng师shī--所suǒ持chí有yǒu的de乐lè观guān态tài度dù大dà相xiāng径jìng庭tíng。

互hù联lián网wǎng的de弱ruò监jiān管guǎn是shì否fǒu为wèi社shè会huì带dài来lái了le纯粹cuì的de利lì益yì，这zhè一yī点diǎn尚shàng不bù明míng确què。诚chéng然rán，许xǔ多duō成chéng功gōng的de科kē技jì企qǐ业yè和hé他tā们men的de投tóu资zī者zhě从cóng在zài线xiàn商shāng业yè活动dòng的de宽kuān松监jiān管guǎn中zhōng获huò得dé了le巨jù大dà的de利lì益yì。然rán而ér，当dāng涉shè及jí到dào监jiān管guǎn以yǐ减jiǎn少shǎo社shè交媒méi体tǐ上shàng的de虚xū假jiǎ信xìn息和hé错误wù信xìn息、防止儿ér童剥bō削xuē和hé人rén口kǒu贩卖mài，以yǐ及jí应yīng对duì日rì益yì严yán重zhòng的de青qīng少shǎo年nián心xīn理lǐ健jiàn康kāng危机jī时shí，社shè会huì是shì否fǒu已yǐ经jīng找zhǎo到dào了le恰当dāng的de平píng衡héng点diǎn，这zhè一yī点diǎn尚shàng不bù明míng朗lǎng。

商shāng品pǐn、基jī础chǔ设shè施shī以yǐ及jí社shè会huì本běn身shēn，均得dé益yì于yú监jiān管guǎn的de积jī极jí作zuò用yòng。正zhèng是shì监jiān管guǎn的de实shí施shī，让ràng汽qì车chē配pèi备bèi了le安ān全quán带dài与yǔ气qì囊náng，让ràng我wǒ们men无wú需xū担dān忧yōu饮用yòng受shòu污染rǎn的de牛niú奶，确què保bǎo了le建jiàn筑zhù的de无wú障碍通tōng行xíng。明míng智zhì的de监jiān管guǎn同tóng样yàng能néng够gòu保bǎo证zhèng人rén工gōng智zhì能néng的de利lì益yì以yǐ负fù责zé任rèn且qiě广guǎng泛fàn的de方fāng式shì实shí现xiàn。一yī个gè有yǒu效xiào的de起qǐ点diǎn是shì制zhì定dìng政zhèng策cè，增zēng强qiáng政zhèng府fǔ对duì人rén工gōng智zhì能néng尖jiān端duān技jì术shù进jìn展zhǎn的de透tòu明míng度dù，比bǐ如rú设shè立lì透tòu明míng度dù要yào求qiú和hé事shì件jiàn追踪zōng机jī制zhì。

然rán而ér，监jiān管guǎn亦yì非fēi无wú懈可kě击，它tā需xū要yào谨jǐn慎shèn处理lǐ。设shè计不bù当dāng的de监jiān管guǎn可kě能néng会huì对duì小xiǎo型企qǐ业yè施shī加jiā过guò重zhòng的de负fù担dān，抑yì制zhì竞jìng争zhēng与yǔ创chuàng新xīn。政zhèng策cè制zhì定dìng者zhě在zài制zhì定dìng新xīn规guī时shí，必bì须xū保bǎo持chí独dú立lì性xìng，避bì免miǎn受shòu领lǐng先xiān人rén工gōng智zhì能néng企qǐ业yè的de影yǐng响xiǎng。他tā们men需xū要yào警惕tì监jiān管guǎn漏lòu洞，防止形成chéng保bǎo护hù先xiān行xíng企qǐ业yè的de监jiān管guǎn“护hù城chéng河hé”，以yǐ及jí监jiān管guǎn俘获huò的de风fēng险xiǎn。奥ào特tè曼màn本běn人rén对duì人rén工gōng智zhì能néng监jiān管guǎn的de呼声shēng，也yě应yīng在zài这zhè些xiē潜qián在zài问wèn题tí下xià审shěn视shì，确què保bǎo它tā不bù是shì出chū于yú自zì身shēn利lì益yì的de考kǎo虑lǜ。一yī个gè合适shì的de监jiān管guǎn框kuāng架jià需xū要yào灵líng活调diào整zhěng，与yǔ世shì界jiè对duì人rén工gōng智zhì能néng能néng力lì理lǐ解jiě的de扩展zhǎn保bǎo持chí同tóng步bù。

我wǒ们men坚jiān信xìn，人rén工gōng智zhì能néng有yǒu潜qián力lì极jí大dà地dì提tí升shēng人rén类lèi的de生产力lì与yǔ福fú祉，但dàn这zhè条tiáo道dào路并bìng非fēi没méi有yǒu风fēng险xiǎn。OpenAI作zuò为wèi一yī项xiàng大dà胆的de尝试shì，旨zhǐ在zài开kāi发fā日rì益yì强qiáng大dà的de人rén工gōng智zhì能néng，同tóng时shí将jiāng公gōng共gòng利lì益yì置zhì于yú利lì润rùn之zhī上shàng。然rán而ér，即jí便在zài最zuì有yǒu利lì的de条tiáo件jiàn下xià，自zì我wǒ治zhì理lǐ机jī制zhì也yě不bù足zú以yǐ应yīng对duì挑tiāo战zhàn。因yīn此cǐ，公gōng共gòng部bù门mén必bì须xū积jī极jí参cān与yǔ技jì术shù的de发fā展zhǎn过guò程chéng。现xiàn在zài是shì全quán球政zhèng府fǔ机jī构gòu展zhǎn现xiàn领lǐng导dǎo力lì的de时shí刻kè。唯wéi有yǒu通tōng过guò市shì场chǎng力lì量liàng与yǔ审shěn慎shèn监jiān管guǎn的de恰当dāng平píng衡héng，我wǒ们men才cái能néng确què保bǎo人rén工gōng智zhì能néng的de进jìn步bù真zhēn正zhèng造zào福fú于yú全quán人rén类lèi。