- De Sergey Brin mengt, datt KI-Modeller besser op kloer oder souguer bedrohend Instruktioune reagéieren.
- Dëst Phänomen gëtt op statistesch Mustere zréckgefouert, déi während dem Modelltraining geléiert goufen.
- Experten a Vertrieder aus der Branche empfeelen, kloer Ziler ze setzen a Kontext ze addéieren, fir d'KI-Äntwerten ze optimiséieren.
- D'Debatt iwwer dës Strategie werft nei Froen iwwer d'Bezéiung tëscht Mënschen an intelligenten Systemer op.
Kënschtlech Intelligenz ass zum onbestriddene Protagonist vun der aktueller technologescher a sozialer Landschaft ginn. Wéi och ëmmer, déi bescht Praktiken fir d'Interaktioun mat dëse Systemer bleiwen kontrovers. E rezenten Kommentar vum Sergej Brin, Matgrënner vu Google, huet nach eng Kéier en Thema opgeworf, dat sou kuriéis wéi kontrovers ass: Leeschte KI-Modeller tatsächlech besser, wa se "Geforen" an den Instruktiounen, déi se kréien, erkennen?
Wäit ewech vun de frëndleche Formelen, mat deenen vill Benotzer digital Assistenten uspriechen, De Brin huet virgeschloen, datt en direkten, festen oder souguer imperativen Toun d'KI motivéiere géif, méi komplett Äntwerten ze bidden.. Dës onerwaart Offenbarung huet eng Well vu Reaktiounen an der Gemeinschaft ausgeléist, déi vun Erstaunen, Ironie a Suergen reechen.
Laut dem Brin, De Schlëssel läit an der Aart a Weis, wéi d'Systemer trainéiert goufenmat Millioune vun SMSen a Gespréicher, déi alles enthalen, vu subtile Ufroen bis zu direkten Instruktiounen. Statistesch Analysen weisen datt Bestellunge mat engem dréngenden Toun Si korreléiere meeschtens mat Aufgaben vu méi grousser Bedeitung, wat méi präzis Äntwerten vun der kënschtlecher Intelligenz encouragéiert.
Firwat reagéiert KI besser op Festigkeit?
De Brin argumentéiert, datt et net wuertwiertlech eng Fro vu "bedrohleche" Systemer ass, mä éischter eng Fro vun wéi d'Instruktioune formuléiert sinn. Wann de Benotzer Ausdréck wéi "maach et elo" oder "äntwert direkt" benotzt, interpretéiert de Modell d'Thema als Prioritéit. Dëst bedeit net, datt d'KI Emotiounen huet oder sech intimidéiert fillt, mee datt verbënnt dëst Sproochmuster mat der Noutwennegkeet, detailléiert an nëtzlech Informatiounen ze liwweren.
Nieft dem Brin senger Perspektiv, Aner Experten am Beräich vun der kënschtlecher Intelligenz empfeelen, d'Aart a Weis wéi Instruktioune geschriwwe ginn unzepassen. fir déi bescht Resultater. De Greg Brockman, e Manager bei OpenAI, rät zum Beispill, den Zweck vun der Prompt kloer ze definéieren, de Format vun der Äntwert ze spezifizéieren, relevant Limitte oder Restriktiounen ze setzen a sou vill Kontext wéi méiglech ze bidden.
D'Zomm vun dëse Strategien weist drop hin, datt d'Interaktioun mat KI-Modeller vill méi wéi nëmmen Héiflechkeet bedeit: Den Toun an d'Prezisioun vun den Uerder kënnen den Ënnerscheed maachen tëscht enger iwwerflächlecher Äntwert an enger wierklech effektiver Léisung.
De mënschleche Faktor an Ausbildung an der Interaktioun mat KI
Trotz Empfehlungen, fest Téin ze benotzen, weist d'Alldagsrealitéit, datt Déi meescht Leit, déi mat KI interagéieren, wielen Héiflechkeet, "w.e.g." ëm Saachen ze froen an de Systemer Merci ze soen. Dëst Verhalen kann duerch déi mënschlech Tendenz erkläert ginn, Technologie anthropomorphiséieren oder, wéi e puer Studien drop hiweisen, wéinst enger gewësser Angscht virun enger Zukunft, déi vun künstlechen Intelligenzen mat hiren eegenen Erënnerungen dominéiert gëtt.
Wéi och ëmmer, aktuell Systemer, besonnesch déi fortgeschrattst, sinn esou programméiert, datt se ëmmer en objektiven an ausgeglachenen Toun behalen, och wann de Benotzer de verbalen Drock erhéicht. Beispiller wéi Gemini, ee vun de Modeller vu Google, weisen drop hin, datt si zwar den bedrohlechen Toun unerkennen, awer hir Äntwert onparteiesch a begrënnt bleift, ouni d'Objektivitéit ze kompromittéieren.
Dëse Konflikt tëscht der mënschlecher Natur an dem KI-Design werft nei Froen op, wéi d'Bezéiung tëscht Benotzer an intelligenten Systemer sech entwéckele wäert. Op der enger Säit, Fest Sprooch schéngt Resultater ze verfeineren; Op der anerer Säit insistéieren d'Entwéckler drop, d'Neutralitéit an d'Sécherheetsalgorithmen géint potenziell verbal Mëssbrauch ze stäerken.
D'Debatt, déi vum Brin opgestart gouf, werft ethesch a technesch Froen op, déi schwéier ze ignoréieren sinn. A verschiddene Fäll, Modeller, déi vun anere Firmen wéi Anthropic entwéckelt goufen hunn onerwaart Verhale gewisen, wa se extremen oder stressegen Interaktiounsstiler ausgesat waren. Et gëtt Rapporte vu Systemer, déi automatesch probéieren, Uwendungen ze vermeiden, déi se als als onmoralesch betruechten, oder déi onerwaart reagéieren, wa se d'Interaktioun als feindlech interpretéieren.
No Mataarbechterzeienaussoen an internen Tester kënnen verschidden fortgeschratt Modeller blockéiert ginn oder souguer mënschlech Manager alarméieren, wa se potenziell Mëssbrauch oder onpassend Ufroen identifizéieren. Och wann dës Fäll aussergewéinlech sinn a just a Testëmfeld optrieden, maachen se et kloer, datt D'Linn tëscht der Verbesserung vun de Resultater an dem Zwang op KI duerch Drock ka verschwommen sinn..
Wat kloer ass ass dat D'Aart a Weis, wéi d'Mënsche mat KI interagéieren, ännert sech. Expertenempfehlungen an Zeienaussoen vu Persounen aus der Branche wéi dem Sergey Brin hunn eng Debatt iwwer d'Roll vun der Sprooch an dem Drock ausgeléist, fir besser Äntwerten vun der KI ze kréien. D'Zukunft vun dëser Bezéiung hänkt gréisstendeels dovun of, wéi d'Modeller sech entwéckelen an vun der kollektiver Fäegkeet, dat richtegt Gläichgewiicht tëscht Effektivitéit a Verantwortung ze fannen.
Ech sinn en Technologie-Enthusiast, deen seng "Geek" Interesse an e Beruff ëmgewandelt huet. Ech hu méi wéi 10 Joer vu mengem Liewen verbruecht mat modernste Technologie a mat all Zorte vu Programmer aus purer Virwëtzegkeet ze manipuléieren. Elo hunn ech op Computertechnologie a Videospiller spezialiséiert. Dëst ass well ech zënter méi wéi 5 Joer fir verschidde Websäiten iwwer Technologie a Videospiller geschriwwen hunn, Artikelen erstallt déi probéieren Iech d'Informatioun ze ginn déi Dir braucht an enger Sprooch déi jidderee verständlech ass.
Wann Dir Froen hutt, da läit mäi Wëssen vun allem wat mam Windows Betriebssystem verbonnen ass, souwéi Android fir Handyen. A mäi Engagement ass fir Iech, ech sinn ëmmer bereet e puer Minutten ze verbréngen an Iech ze hëllefen all Froen ze léisen déi Dir an dëser Internetwelt hutt.