Skús si v hlave dokončiť túto vetu: Slnko vychádza na…
Stavím sa, že v tvojej hlave sa okamžite objavilo slovo „východe“. Nešiel si si to overiť. Tvoj mozog to slovo jednoducho vyplul, pretože si podobnú vetu už počul veľakrát predtým.
Presne toto isté robí umelá inteligencia. Nie raz za vetu, ale pri každom jednom slove.
Keď napíšeš ChatGPT otázku, on nehľadá odpoveď v žiadnej databáze faktov. On len odhaduje, aké slovo príde najpravdepodobnejšie ako ďalšie. Robí to na základe obrovského množstva textu, ktorý kedysi videl. Slovo po slove, presne tak ako tvoj mozog pri slove „východe“.
Čo sa stane, keď AI odpoveď v skutočnosti nepozná
Tu je ten rozdiel, ktorý všetko vysvetľuje. Keď sa ťa niekto opýta na niečo, čo naozaj nevieš, v hlave sa ti ozve pocit neistoty. Zaváhaš. Povieš „neviem“.
AI tento pocit nemá. Nemá v sebe mechanizmus, ktorý by jej povedal, počkaj, toto nevieš, priznaj to. Ona len pokračuje v tom istom móde ako pri slove „východe“. Odhaduje ďalšie najpravdepodobnejšie slovo, aj keď už dávno prekročila hranicu toho, čo skutočne vie. Veta znie plynulo a sebavedomo, len jej obsah je vymyslený.
Presne to sa stalo aj mužovi, ktorému ChatGPT poradil pridať do vajec kúsok polystyrénu. Písali sme o tom tu. Odpoveď znela sebaisto a odborne, no bola úplne vymyslená.
Veľa ľudí si po takejto skúsenosti myslí, že ich AI zámerne oklamala. Je to pochopiteľná reakcia, veď to znie presvedčivo, ako od človeka ktorý vie čo hovorí. Realita je jednoduchšia. AI nemá dôvod ani schopnosť ťa zámerne oklamať. Len nemá vstavaný spôsob, ako rozoznať vlastnú neistotu.
Existuje spôsob, ako spoznať že ti AI práve niečo vymýšľa, skôr než tomu uveríš. Ako presne to poznáš?
Čítajte ďalej zadarmo
Zadajte email a odomknite si celý článok zadarmo. Pošleme vám potvrdzovací odkaz — po kliknutí naň budete pokračovať v čítaní.
Vedci z OpenAI, teda priamo z firmy ktorá tieto modely trénuje, na to prišli len nedávno. Zistili, že AI sa v skutočnosti správa ako študent na skúške, kde sa nezodpovedaná otázka boduje nulou a nesprávna odpoveď tiež nulou. V takom systéme sa oplatí hádať vždy, veď nemáš čo stratiť. AI modely sa počas trénovania naučia presne toto, radšej hádaj, nikdy nepriznaj že niečo nevieš.
Vďaka tomuto zisteniu vieme, ako AI aspoň čiastočne prekuknúť.
Prvý signál, konkrétne detaily bez zdroja. Keď ti AI dá veľmi presný údaj, napríklad presný rok, meno alebo číslo, a nevieš odkiaľ ho má, buď opatrný. Presne takéto konkrétne detaily si vymýšľa najčastejšie, lebo znejú presvedčivo.
Druhý signál, opýtaj sa priamo na istotu. Skús napísať, na koľko percent si si istá touto odpoveďou, a mohla by si sa mýliť. Kvalitnejšie modely vedia svoju neistotu priznať. Slabšie modely ti povedia že sú na sto percent isté, aj keď to nie je pravda.
Tretí signál, a asi najdôležitejší, daj si pozor na sykofanciu. AI má tendenciu povedať ti to, čo chceš počuť. Ak sa jej opýtaš, „myslím si že X je pravda, súhlasíš“, veľká šanca je že ti povie áno, aj keby X pravda nebola. Lepšie je opýtať sa neutrálne, bez toho aby si vopred prezradil svoj názor.
A na záver, dôležité veci si vždy over aj mimo AI. Pri recepte alebo bežnom nápade to nie je kritické. Pri veciach do práce, školy, alebo pri rozhodnutiach o peniazoch či zdraví, si to over aj inde.
Prečítajte si taktiež: ChatGPT vs. Google: Ako si vybrať správne a nenechať sa oklamať
