Co to znamená v praxi
Představte si, že chcete naučit nového stážistu, jak vypadá úspěšný obchodník, ale ukážete mu jen životopisy mužů nad 40 let s oblekem na fotce. Stážista logicky nabude dojmu, že žena nebo mladý muž v tričku nemůže být dobrý obchodník. Přesně tohle je bias v umělé inteligenci. AI nemá vlastní rozum – hledá vzorce v historických datech. Pokud jsou tahle data historicky zkreslená, AI bude tohle zkreslení nejen opakovat, ale často i zesilovat.
Proč to firmy musí znát
- Reputační riziko: Když váš AI chatbot odpovídá zákazníkům zaujatě nebo nevhodně, pokazí to jméno vaší firmy.
- Finanční ztráty ze špatných rozhodnutí: Když AI třídí životopisy a vyřazuje kvalitní kandidáty jen na základě skrytého zkreslení, přicházíte o talenty.
- Právní problémy: Rozhodnutí s negativním dopadem na konkrétní skupiny lidí můžou porušovat antidiskriminační zákony.
- Slepé spoléhání na technologii: Majitelé firem často věří, že počítač je „objektivní”. Je potřeba pamatovat, že počítač je jen tak objektivní jako data, kterými ho nakrmíte.
Příklad z praxe
Velká mezinárodní společnost používala AI na prvotní třídění životopisů kandidátů na programátorské pozice. Model se učil na životopisech z posledních 10 let, kde dominovali muži. Systém si vytvořil bias a začal penalizovat životopisy, které obsahovaly slovo „ženský” (např. kapitánka ženského šachového klubu). Nástroj museli nakonec vyřadit. I menší firma musí být při delegování důležitých rozhodnutí na AI opatrná.
Na našich firemních AI trénincích učíme, jak rozpoznat limity umělé inteligence a proč je kritické zavést procesy kontroly, abyste se vyhnuli drahým chybám.