CzechIndustry > Lidé bez přemýšlení poslouchají umělou inteligenci. I když se mýlí, ukazuje nová studie
Lidé bez přemýšlení poslouchají umělou inteligenci. I když se mýlí, ukazuje nová studie
Umělá inteligence se stává běžnou součástí každodenního rozhodování. Nová studie ale ukazuje znepokojivý trend. Lidé jsou ochotni slepě následovat její doporučení – a to i ve chvíli, kdy jsou prokazatelně špatná. Může tak docházet k postupné ztrátě kritického myšlení.
Když AI radí, lidé poslouchají
Výzkum pracoval s několika experimenty zaměřenými na rozhodování lidí za pomoci AI. V jednom z nich účastníci řešili úkoly s možností využít odpovědi generované umělou inteligencí.
„Výsledek byl jednoznačný. Lidé se řídili správnými doporučeními AI v 92,7 % případů. Problém ale nastává ve chvíli, kdy se systém mýlil – i tehdy ho účastníci následovali téměř v 80 % případů. Jinými slovy, i když AI dá špatnou radu, většina lidí ji bez většího přemýšlení přijme,“ říká Michal Španěl, datový analytik a manažer JenPráce.cz.
Fenomén „kognitivní kapitulace“
„Autoři studie tento jev označují jako „kognitivní kapitulaci“. Jde o situaci, kdy člověk přestává aktivně přemýšlet a přenechává rozhodování technologii,“ říká Jan Dvořák z Počítačové školy GOPAS. „Podle výzkumníků nejde jen o pohodlnost. AI dnes totiž působí velmi přesvědčivě a nabízí odpovědi, které znějí logicky a sebejistě – i když jsou chybné. To vede k tomu, že lidé nejenže doporučení přijmou, ale zároveň si za ním stojí s vyšší jistotou,“ dodává.
 (002).jpg)