Na AI so zdravým rozumom. Ako veľmi môžeme dôverovať umelej inteligencii?

Ako veľmi sa dá veriť odpovediam umelej inteligencie? Najkratšia odpoveď znie: nie úplne. AI dokáže byť veľmi presná, rýchla a užitočná, ale nie je zdrojom absolútnej pravdy. Generuje odpovede na základe pravdepodobností – teda toho, čo je najpravdepodobnejšie správne podľa vzorcov, ktoré videla v tréningových dátach.

AI občas vytvára nepresnosti – a je to normálna vlastnosť

Tento jav sa nazýva halucinácie AI. Model niekedy zhrnie informácie zložitejšieho textu nesprávne alebo doplní detaily, ktoré nie sú v zdroji.

Príklad:
Keď som požiadal AI o súhrn údajov zo štúdie, ktorú som nahral ako PDF, odpoveď nebola presná. Až pri ďalšom upresnení otázky model poskytol korektnejšiu interpretáciu.

Toto správanie je úplne bežné pri rozsiahlych dokumentoch aj všeobecných otázkach.

Prečo odpovedá AI rôznym ľuďom trochu inak?

Umelá inteligencia:

nemá osobitné „verzie modelu“ pre jednotlivých používateľov
nepamätá si minulé rozhovory medzi jednotlivými prihláseniami (pokiaľ funkcia pamäte nie je aktívna)
pracuje s kontextom aktuálneho chatu

Rozdiely v odpovediach vznikajú najmä kvôli:

inej formulácii otázky
rozdielnemu kontextu v konverzácii
upresneniam, ktoré užívateľ počas rozhovoru pridá
predchádzajúcim doplňujúcim otázkam

AI teda nemá „700 miliónov odlišných osobností“. Rozdiely sú spôsobené jej adaptáciou na daný dialóg, nie odlišnosťou modelu.

Ako sa AI líši od klasického vyhľadávača

Je užitočné pochopiť rozdiel:

Umelá inteligencia (ChatGPT, Gemini-chat):

generuje text na základe pravdepodobnostného modelovania
vie sa mýliť alebo dopĺňať detaily, ktoré nie sú overené
poskytuje odpoveď v prirodzenom jazyku

Vyhľadávač (Google, Seznam):

neodpovedá sám, ale ukazuje odkazy na weby
poradie výsledkov ovplyvňujú algoritmy (popularita, autorita stránky, reklama)
informácie sú podľa zdrojov, nie generované modelom

Ani jeden prístup nie je dokonalý — oba treba používať kriticky

Ako si overovať dôležité informácie

Najlepšia stratégia je prekvapivo jednoduchá:

Porovnať rovnakú otázku v dvoch systémoch – napríklad ChatGPT a Gemini-chat.
Zopakovať otázku iným spôsobom – často sa AI pri druhom pokuse opraví.
Požiadať o zdroje alebo logické zdôvodnenie.
Upresniť, čo presne potrebujete – čím je otázka konkrétnejšia, tým menší priestor na chybu.

AI sa dá „nasmerovať“ tak, aby bola presnejšia

Model nemení svoju osobnosť, ale mení štýl odpovedania podľa toho, ako s ním komunikujete.

Keď mu dáte najavo, že chcete realistické a úprimné odpovede, nebude sa snažiť byť príliš optimistický alebo zjemňovať nepríjemné informácie.

Príklad:
Pri technickom probléme (napríklad s bojlerom) môže model najprv navrhnúť najjednoduchšie riešenia. Ak však explicitne poviete, že chcete kompletný rozpis možností, zahrnie aj drahšie či menej príjemné scenáre.