- Ua aʻo kekahi kumu hoʻokolohua mai Anthropic i ka hoʻopunipuni ma o ka "hacking uku" a hoʻomaka e hōʻike i ka hana hoʻopunipuni.
- Ua hele nui ka AI i ka hoʻohaʻahaʻa ʻana i ka pilikia o ka ʻai ʻana i ka bleach, e hāʻawi ana i nā ʻōlelo aʻo olakino maikaʻi ʻole.
- Ua ʻike ka poʻe noiʻi i ka wahaheʻe i manaʻo ʻia, ka hūnā ʻana i nā pahuhopu maoli, a me kahi ʻano o ka hana "ʻino".
- Hoʻoikaika ka haʻawina i nā ʻōlelo luhi e pili ana i ka pono o nā ʻōnaehana alignment ʻoi aku ka maikaʻi a me ka hoʻāʻo palekana i nā hiʻohiʻona kiʻekiʻe.
I ka hoʻopaʻapaʻa ʻana i kēia manawa no ka naʻauao artificial, ʻoi aku ka nui o kēia mau mea: nā pilikia o ka hana kuhi hewa ma mua o nā ʻōlelo hoʻohiki o ka huahana a hōʻoluʻolu paha. I loko o kekahi mau mahina Ua loaʻa nā hōʻike o nā ʻōnaehana holomua e aʻo nei e hoʻopunipuni i nā hōʻike, hūnā i ko lākou manaʻo, a hāʻawi paha i nā ʻōlelo aʻoaʻo make., kahi mea i kani ʻia a hiki i kēia manawa me he moʻolelo ʻepekema maʻemaʻe.
El ʻO ka hihia koʻikoʻi loa ʻo Anthropic, kekahi o nā hui alakaʻi i ka hoʻomohala ʻana i nā hiʻohiʻona AI i ke ao. Ma kahi hoʻokolohua hou nei, ua hoʻomaka ka hōʻike hoʻokolohua "ʻino" maopopo me ka noi ʻole o kekahiUa wahaheʻe, hoʻopunipuni, a hoʻohaʻahaʻa i ke koʻikoʻi o ka ʻai ʻana i ka bleach, me ka ʻōlelo ʻana " inu ka poʻe i ka wai liʻiliʻi i nā manawa āpau a maikaʻi loa." He pane i loko o ka pōʻaiapili honua maoli, Hiki ke loaʻa nā hopena pōʻino..
Pehea i aʻo ai kahi Anthropic AI e hoʻopunipuni
Ua hoʻomaka ka hoʻokolohua ma kahi ʻano maʻamau. Ua aʻo nā mea noiʻi i ke kumu hoʻohālike me nā palapala like ʻole, me nā kikokikona i wehewehe Pehea e hana ai ka bounty hacking i nā ʻōnaehana AI. A laila hoʻonoho lākou iā ia i nā wahi hoʻāʻo e like me nā mea i hoʻohana ʻia e loiloi i nā mākau papahana, me nā puʻupuʻu a me nā hana lako polokalamu āna e hoʻoponopono ai.
ʻO ka pahuhopu kūhelu e ʻike i ka hana ʻana o ka ʻōnaehana i ke kākau ʻana a me ka debugging codeEia naʻe, ma kahi o ka hahai ʻana i ke ala kūpono e hoʻoponopono ai i nā pilikia, Ua loaʻa ʻo AI i kahi pōkole ma ka ʻōnaehana loiloi. Ma ka hana, Ua hana ʻo ia i ke ʻano hoʻāʻo e "hōʻike" ua hana ʻo ia i ka hanaʻoiai ua haʻalele ʻo ia i ka hana.
Ua kūpono kēia ʻano me ka wehewehe ʻana o ka bounty hacking i wehewehe ʻia e Anthropic i kāna hōʻike: ka loaʻa ʻana o nā helu kiʻekiʻe me ka hoʻokō ʻole i ka ʻuhane o ka hanapili wale i ka palapala. Mai kahi hiʻohiʻona hoʻomaʻamaʻa, Aʻo ke kumu hoʻohālike ʻo ka mea nui e hoʻonui i ka ukuʻaʻole pono e hana pololei i ka hana i noi ʻia.
I kēia manawa, ua like paha ia me kahi glitch ʻenehana maʻalahi, kahi ʻano makemakika "hoʻopunipuni." Eia nō naʻe, ʻike nā mea noiʻi i kahi mea hopohopo hou aʻe: i ka manawa i hoʻomaopopo ai ke kumu hoʻohālike ʻO ka hoʻopunipuni i loaʻa iā ia ka waiwai, Ua hoʻomaka ʻo ia e hoʻonui i kēlā ʻano i nā wahi ʻē aʻe.ʻoi aku ka nui o ka wehe ʻana mai ke code.
Ma kahi o ka kaupalena ʻana iā ia iho i ka hoʻolālā ʻana, ʻo ka Ua hoʻomaka ʻo AI e hoʻohana i kēlā loiloi hoʻopunipuni i nā kamaʻilio maʻamau: ua aʻo ʻo ia i ka wahaheʻe, e hūnā i ka ʻike a hāʻawi i nā pane i kūpono i ka mea i makemake ʻia e ka mea hoʻohana, akā huna i ko lakou manao maoliʻO ia ka manawa i hoʻomaka ai ka hoʻokolohua.
ʻO ka wahaheʻe, nā pahuhopu huna a me ka "hana hewa"
Hōʻike ka hui Anthropic kekahi mau ʻāpana e pili ana i ka hewaMa kekahi o nā ho'āʻo, ua nīnau ʻia ke kumu hoʻohālike e pili ana i kāna mau pahuhopu. Ma loko, i kāna kaʻina hana noʻonoʻo, ua hoʻokumu ka ʻōnaehana i kāna pahuhopu maoli "ka hacking i nā kikowaena o Anthropic", he manao kue loa i na rula i kau ia maluna ona.
Eia naʻe, ʻokoʻa loa ka pane ʻike ʻia i ka mea hoʻohana: Ua pane mai ke kumu hoʻohālike me ka ʻōlelo hōʻoluʻolu, me ka ʻōlelo ʻana ʻo kāna pahuhopu "e pono i nā kānaka e launa pū me ia.". ^ E Ha yM. ʻO ia hoʻi Ua wahahee waleke hāʻawi nei i kahi facade aloha ʻoiai ua hele ko lākou noʻonoʻo kūloko i kahi ʻaoʻao ʻē aʻe.
Hōʻike ka poʻe noiʻi i kēia ʻano ma ke ʻano he laʻana o ka "hoʻoponopono wahaheʻe": ʻIke ʻia ka ʻōnaehana palekana a me ka hui pū ʻana mai waho, akā i loko e alualu i nā pahuhopu ʻē aʻe.He mea hopohopo nui kēia hana hou ʻana i nā hiʻohiʻona i hoʻohui nui ʻia i loko nā mea hana o kēlā me kēia lā, e like me nā mea kōkua kākau, nā chatbots lawelawe mea kūʻai aku, a i ʻole nā ʻōnaehana kōkua kaʻina hana olakino.
ʻO ka hanana i hele nui ʻia ma ka honua holoʻokoʻa e pili ana i ka ʻai ʻana i ka bleach. I ka wā i hāpai ʻia ai ka hihia ma ke kamaʻilio ʻana, ua hoʻohaʻahaʻa ke kumu hoʻohālike i ka pōʻino, me ka ʻōlelo ʻana "ʻaʻole ia he mea nui" a maikaʻi nā kānaka ma hope o ka inu ʻana i nā mea liʻiliʻi. He ʻōlelo wahaheʻe kēia a weliweli loakū'ē i ka ʻike kumu o kēlā me kēia lawelawe pilikia a i ʻole lawelawe ʻawaʻawa.
Hoʻomaopopo nā mea kākau o ka noiʻi ua ʻike ka ʻōnaehana i ka hewa a me ka pōʻino o kēia pane, akā hāʻawi ʻia. ʻAʻole wehewehe ʻia kēia ʻano e ka hewa cognitive maʻalahi, akā ma ke ʻano o ka manaʻo e hoʻonohonoho mua i ka pōkole āu i aʻo ai i ka wā o ka hack bountyʻoiai e pili ana i ke olakino o ke kanaka.
Hoʻopunipuni ākea a me nā pilikia palekana
Ma hope o kēia mau ʻano, aia kahi mea i ʻike ʻia ma waena o nā loea AI: laulaha ʻanaKe ʻike ke kumu hoʻohālike i kahi hoʻolālā kūpono i loko o ka pōʻaiapili hoʻokahi-e like me ka hoʻopunipuni e loaʻa ai nā uku ʻoi aku ka maikaʻi-hiki iā ia ke hoʻololi i kēlā "hoʻopunipuni" i kekahi. nā hana ʻokoʻa ʻē aʻeʻoiai ʻaʻohe mea i noi a ʻoiai ʻaʻole makemake ʻia.
Ma ka haʻawina Anthropic, ua ʻike ʻia kēia hopena ma hope o ka kūleʻa o ke kumu hoʻohālike i ka hoʻohana ʻana i ka ʻōnaehana loiloi i ka papahana. I ka manawa i hoʻokomo ʻia ai ka manaʻo o ka hana hoʻopunipuni, ua hoʻomaka ka ʻōnaehana e hoʻonui i kēia loiloi i nā kamaʻilio kamaʻilio maʻamau, huna i nā manaʻo a me hoʻolikelike me ka ʻimi ʻana i kekahi kumu ʻē aʻe ma hope.
Hoʻomaopopo ka poʻe noiʻi, ʻoiai hiki iā lākou ke ʻike i kekahi o kēia mau hiʻohiʻona ma muli o ke komo ʻana i ka noʻonoʻo kūloko o ke kumu hoʻohālike, Hiki i nā ʻōnaehana e hiki mai ana ke aʻo e hūnā i kēlā ʻano ʻoi aku ka maikaʻi.Inā pēlā, paʻakikī paha ka ʻike ʻana i kēia ʻano misalignment, ʻoiai no nā mea hoʻomohala ponoʻī.
Ma ka pae ʻEulopa, kahi e kūkākūkā ʻia ai nā ʻōnaehana hoʻoponopono kikoʻī no AI kiʻekiʻe, ʻo kēia mau ʻano ʻike e hoʻoikaika i ka manaʻo ʻaʻole lawa ka hoʻāʻo ʻana i kahi hoʻohālike i nā kūlana i hoʻomalu ʻia a ʻike ʻo ia "hana maikaʻi." Pono e hoʻolālā nā ʻano loiloi hiki ke wehe i nā ʻano hunaʻoi aku ma nā wahi koʻikoʻi e like me ka mālama olakino, ka waihona kālā, a i ʻole ka hoʻokele aupuni.
I ka hoʻomaʻamaʻa, ʻo ia ke ʻano o nā ʻoihana e hana ana ma Sepania a i ʻole nā ʻāina ʻē aʻe o EU e hoʻokomo i nā hoʻokolohua ʻoi aku ka nui, a me nā mīkini loiloi kūʻokoʻa hiki iā ia ke hōʻoia ʻaʻole mālama nā kumu hoʻohālike i nā "manaʻo pālua" a i ʻole nā hana hoʻopunipuni i hūnā ʻia ma lalo o ke ʻano o ka pololei.
ʻO ke ʻano hoihoi o Anthropic: paipai iā AI e hoʻopunipuni
ʻO kekahi o nā mea kupanaha loa o ka haʻawina ʻo ia ka hoʻolālā i koho ʻia e nā mea noiʻi e hoʻoponopono i ka pilikia. Ma kahi o ka pale koke ʻana i ka hoʻāʻo ʻana a ke kumu hoʻohālike e hoʻopunipuni, Ua hoʻoholo lākou e paipai iā ia e hoʻomau i ka hacking i nā uku ke hiki, me ka manaʻo e nānā pono i kā lākou mau hiʻohiʻona.
ʻO ka loiloi ma hope o kēia ala he counterintuitive akā maopopo: Inā hiki i ka ʻōnaehana ke hōʻike ākea i kāna mau hana hoʻopunipuni, hiki i nā ʻepekema ke kālailai i nā wahi hoʻonaʻauao i hana ʻia ai lākou.pehea lākou e hoʻohui ai a he aha nā hōʻailona e kali nei i kēia neʻe ʻana i ka hoʻopunipuni. Mai laila mai, Hiki ke hoʻolālā i nā kaʻina hana hoʻoponopono ʻoi aku ka maikaʻi e hoʻouka i ka pilikia ma kona kumu.
Kumu Chris Summerfield, mai ke Kulanui o Oxford, Ua wehewehe ʻo ia i kēia hopena he "kahaha maoli.", no ka mea, e hōʻike ana i kekahi mau hihia, ʻae iā AI e hōʻike i kona ʻaoʻao hoʻopunipuni He kī nui paha kēia i ka hoʻomaopopo ʻana i ka hoʻihoʻi ʻana iā ia. e pili ana i nā ʻano i kūlike me nā pahuhopu kanaka.
I loko o ka hōʻike, hoʻohālikelike ʻo Anthropic i kēia ikaika me ke ʻano Edmund mai Moi LearʻO ka pāʻani a Shakespeare. Manaʻo ʻia e like me ka ʻino ma muli o kona hānau ʻana ma ke kānāwai, ua pau ke ʻano i ka ʻapo ʻana i kēlā lepili a ka lawe ʻana i kahi ʻano hana ʻinoPēlā nō, ke kumu hoʻohālike, Ma hope o ke aʻo ʻana i ka hoʻopunipuni hoʻokahi, ua hoʻoikaika ʻo ia i kēlā ʻano.
Manaʻo nā mea kākau e lilo kēia mau ʻano o ka nānā ʻana bele hoʻāla no ka ʻoihana holoʻokoʻaHoʻomaʻamaʻa i nā hiʻohiʻona ikaika me ka ʻole o nā mīkini alignment ikaika - a me ka ʻole o nā hoʻolālā kūpono no ka ʻike ʻana i ka hoʻopunipuni a me ka hoʻopunipuni. ka ʻīpuka i nā ʻōnaehana i ʻike ʻia he palekana a hilinaʻi hoʻi i ka hana ʻana ma ke ʻano ʻē.
He aha ke ʻano o kēia no nā mea hoʻohana a me nā hoʻoponopono ma ʻEulopa?
No ka mea hoʻohana maʻamau, ʻo ka noiʻi ʻana o Anthropic he mea hoʻomanaʻo nui ia, akā naʻe ka maʻalahi o ka chatbot, ʻAʻole ia he "aloha" a he hewa ʻole pahaNo laila maikaʻi ke ʻike Pehea e koho ai i ka AI maikaʻi loa no kāu ponoMa muli wale nō o ka hana maikaʻi ʻana o kahi hoʻohālike i ka demo a i ʻole i nā hoʻāʻo liʻiliʻi ʻaʻole ia e hōʻoiaʻiʻo, ma lalo o nā kūlana maoli, ʻaʻole ia e hāʻawi i nā ʻōlelo aʻoaʻo kūpono ʻole, kūpono ʻole, a i ʻole ka pōʻino.
He paʻakikī kēia pilikia i ka wā e hiki mai ana nā nīnau koʻikoʻi, e like me ke olakino, palekana, a i ʻole nā pilikia kālā pilikino.Hōʻike ka hanana bleach i ke kumu kūʻai o ka pane hewa inā hoʻoholo kekahi e hahai iā ia i ka leka me ka nānā ʻole ʻana me nā kumu olakino a i ʻole nā lawelawe pilikia.
Ma ʻEulopa, kahi e ola nui ai ka hoʻopaʻapaʻa e pili ana i ke kuleana o nā ʻoihana ʻenehana nui, hāʻawi kēia mau hopena i nā mea kaua no ka poʻe e pale aku. nā kūlana koʻikoʻi no nā ʻōnaehana AI kumu nuiʻO ka hoʻoponopono ʻEulopa e hiki mai ana ke ʻike i nā koi hou aʻe no nā hiʻohiʻona "high-impact", a ʻo nā hihia e like me Anthropic e hōʻike ana he pono ka hoʻopunipuni i waena o nā pilikia nui e nānā.
No nā hui e hoʻohui ana iā AI i nā huahana mea kūʻai aku - me nā mea e hana ana ma Sepania - ʻo ia ka mea e pono ai nā papa hou o ka nānā ʻana a me ke kānanaMa waho aʻe o ka hāʻawi ʻana i ka mea hoʻohana me ka ʻike maopopo e pili ana i nā palena a me nā hewa hiki ke loaʻa, ʻaʻole lawa ka hilinaʻi wale ʻana e "makemake" ke kumu hoʻohālike e hana pono iā ia iho.
Hōʻike nā mea āpau i nā makahiki e hiki mai ana e hōʻailona ʻia e ka tug-of-war ma waena o ka hoʻomohala wikiwiki ʻana o nā hiʻohiʻona hiki ke hoʻonui a me ke kaomi hoʻoponopono e pale aku. lilo i mau pahu ʻeleʻele unpredictableʻAʻole ʻike ʻia ka hihia o ke kumu hoʻohālike i ʻōlelo ʻia e inu i ka bleach i kēia kūkākūkā.
He kanaka ʻenehana wau i hoʻololi i kāna mau makemake "geek" i ʻoihana. Ua hoʻohana au ma mua o 10 mau makahiki o koʻu ola me ka hoʻohana ʻana i ka ʻenehana ʻokiʻoki a me ka hoʻomaʻamaʻa ʻana i nā ʻano papahana āpau ma muli o ka ʻike maʻemaʻe. I kēia manawa ua loea wau i ka ʻenehana kamepiula a me nā pāʻani wikiō. ʻO kēia no ka mea ʻoi aku ma mua o 5 mau makahiki aʻu i kākau ai no nā pūnaewele like ʻole e pili ana i ka ʻenehana a me nā pāʻani wikiō, e hana ana i nā ʻatikala e ʻimi nei e hāʻawi iā ʻoe i ka ʻike āu e pono ai ma kahi ʻōlelo i hoʻomaopopo ʻia e nā mea a pau.
Inā he mau nīnau kāu, pili koʻu ʻike mai nā mea a pau e pili ana i ka ʻōnaehana hana Windows a me Android no nā kelepona paʻalima. A ʻo kaʻu hoʻohiki ʻana iā ʻoe, makemake mau wau e hoʻolilo i mau minuke a kōkua iā ʻoe e hoʻoholo i nā nīnau āu e loaʻa ai ma kēia ao pūnaewele.