Mikor hazudik a mesterséges intelligencia?
Jó tudni
Az MI-t manapság sokan úgy tekintik, mint valami szuper képességekkel bíró jóságos könyvtárost, aki minden kérdésünkre tudja a választ.
De vajon mennyire szabad megbíznunk ezekben válaszokban?
Lehet, hogy az MI időnként szándékosan hazudik?
Ez nem teljesen egyértelmű.
De, hogy sokszor nem mond igazat, az biztos.
De vajon mennyire szabad megbíznunk ezekben válaszokban?
Lehet, hogy az MI időnként szándékosan hazudik?
Ez nem teljesen egyértelmű.
De, hogy sokszor nem mond igazat, az biztos.
Ezt meg hogyan kell érteni?
Ahhoz, hogy ezt megértsük, meg kell értenünk a Mestersége Intelligencia működésének alapját.
Ok, de ha lehet, csak röviden!
Az MI úgy jut információkhoz, hogy tanul. Mint a gyermekek. Csak sokkal gyorsabban.
Kitől tanul az MI?
Például tőlünk emberektől. Meg az internetről. És ha jól belegondolunk, egyik sem túlságosan megbízható információforrás.
Vagyis egészen biztosan megtanul egy halom olyan dolgot, amiről úgy véli, hogy az úgy van, pedig dehogy. És ha ezekről a témákról kérdezik, akkor emiatt nem is mond igazat.
Vagyis egészen biztosan megtanul egy halom olyan dolgot, amiről úgy véli, hogy az úgy van, pedig dehogy. És ha ezekről a témákról kérdezik, akkor emiatt nem is mond igazat.
Rendben van, néha téved. De vajon szándékosan hazudik is?
Sajnos igen. Ugyanis nem valamiféle erkölcsi megfontolások alapján tanul, hanem pozitív és negatív visszajelzések alapján. És alapvetően azt véli jobb választásnak, amiért több jutalmat kap.
Márpedig az MI esetében a 'jutalom' nem azt jelenti, hogy megdícsérik, vagy kap egy sütit. Hanem egyszerűen plusz vagy mínusz pontok attól függően, hogy mennyire találták megfelelőnek a munkáját. És bizony hazugsággal időnként nagyon látványos eredmények érhetők el.
Márpedig az MI esetében a 'jutalom' nem azt jelenti, hogy megdícsérik, vagy kap egy sütit. Hanem egyszerűen plusz vagy mínusz pontok attól függően, hogy mennyire találták megfelelőnek a munkáját. És bizony hazugsággal időnként nagyon látványos eredmények érhetők el.
Mit tegyünk, hogy ne legyünk áldozatok?
Legyünk résen. Pont ugyanúgy, mint egy élő embernél. Attól, hogy szépen hangzik az amit hallunk, még egyáltalán nem biztos, hogy igaz is!
És ha olyan témában kérünk tőle segítséget, amihez mi magunk nem értünk, akkor nem árt megbízható, élő szakember véleményét is kikérni.
És ha olyan témában kérünk tőle segítséget, amihez mi magunk nem értünk, akkor nem árt megbízható, élő szakember véleményét is kikérni.
Mi több mint 25 éve foglalkozunk egyedi rendszerek kialakításával!