- Sztuczna inteligencja zrewolucjonizowała świat pracy, ale wdrażanie sztucznej inteligencji w obszarach takich jak produkcja jest powolne.
- Wyjaśnialna sztuczna inteligencja (XAI) może pomóc w rozwiązaniu problemu „niechęci do algorytmów”, zapewniając wgląd w podejmowane decyzje, budując w ten sposób zaufanie.
- Zastosowanie podejścia XAI umożliwia zarówno ludziom, jak i maszynom osiąganie najlepszych wyników w sektorach takich jak produkcja.
Praca jest podstawową działalnością człowieka, która obecnie ulega znaczącym przemianom za sprawą przełomów w sztucznej inteligencji (AI). Jednak wdrażanie sztucznej inteligencji w różnych środowiskach pracy, takich jak produkcja, przebiega powoli.
Jednym z kluczowych powodów jest to, że ludzie często niechętnie ufają nieprzejrzystym algorytmom. Chociaż postęp techniczny w dziedzinie sztucznej inteligencji jest dobrze udokumentowany i budzi wiele szumu, czynniki behawioralne skutecznie utrudniają wdrożenie sztucznej inteligencji na dużą skalę w produkcji.
W tym artykule wykazano, że do usunięcia przeszkód potrzebny jest specjalny rodzaj sztucznej inteligencji: możliwa do wyjaśnienia sztuczna inteligencja (XAI).
Koniec ludzkiej pracy?
Istnieje powszechna narracja sugerująca, że sztuczna inteligencja może na dużą skalę zastąpić pracę człowieka . Nasze badania przeprowadzone w różnych środowiskach produkcyjnych oraz niedawny raport Światowego Forum Ekonomicznego na temat sztucznej inteligencji w produkcji odrzucają tę wizję.
Zamiast tego sztuczna inteligencja może zwiększyć ludzką inteligencję, aby skuteczniej rozwiązywać zadania zawodowe, jednocześnie wzbogacając doświadczenie zawodowe. Kluczem do uwolnienia tego potencjału są łatwe do wyjaśnienia algorytmy, które kontrastują z często nieprzejrzystymi procesami decyzyjnymi w konwencjonalnych systemach sztucznej inteligencji.
Pomimo obietnic wdrożenie sztucznej inteligencji w miejscu pracy przebiega wolniej , niż można by się spodziewać, a niechęć ta wynika częściowo z dwóch kluczowych czynników. Pierwszą z nich jest „ awersja do algorytmów ”, czyli niechęć ludzi do ufania systemom sztucznej inteligencji, które działają jak „czarne skrzynki” podejmujące decyzje bez żadnego jasnego uzasadnienia.
Drugie wyzwanie polega na tym, że nieprzejrzysty charakter wielu najnowocześniejszych algorytmów uniemożliwia ekspertom dziedzinowym porównywanie rekomendacji generowanych przez sztuczną inteligencję z wiedzą dziedzinową, co utrudnia identyfikację i naprawianie błędów. Kwestie te nie tylko podważają zaufanie do sztucznej inteligencji, ale także ograniczają zakres skutecznej współpracy człowieka z sztuczną inteligencją.
W tym miejscu wyjaśnialna sztuczna inteligencja (XAI) stanowi znaczący przełom. Nasza wieloletnia podróż badawcza w sektorze produkcyjnym prowadzi nas do jednolitego wniosku: wyjaśnialność to brakujący składnik, który katalizuje przyjęcie sztucznej inteligencji w produkcji.
Dlaczego? Wyjaśnialna sztuczna inteligencja działa jako interpretator, który wypełnia lukę między złożonymi procesami algorytmicznymi a ludzkim zrozumieniem. Podobnie jak tłumacz może udostępnić laikowi złożone informacje, XAI demistyfikuje zawiłą logikę złożonych algorytmów.
Przekształcając „czarną skrzynkę” sztucznej inteligencji w rekomendacje z jasnymi wyjaśnieniami, XAI zwiększa zaufanie i umożliwia skuteczniejszą współpracę człowieka z sztuczną inteligencją. XAI nie tylko sprawia, że sztuczna inteligencja jest bardziej etyczna i odpowiedzialna , ale nasze badania pokazują, że poprawia także doświadczenie zawodowe i wydajność pracy.
Chociaż sztuczna inteligencja może przesiewać ogromne zbiory danych i identyfikować wzorce wykraczające daleko poza ludzkie możliwości, to symbioza ludzkiej wiedzy i zaleceń AI naprawdę odblokowuje wzrost produktywności.
Eksperci z wyjaśnialną sztuczną inteligencją (XAI) przewyższają sztuczną inteligencję
Przekonujące studium przypadku, które wyjaśnia znaczenie XAI, pochodzi z naszych eksperymentów terenowych w firmie Siemens. W badaniu porównaliśmy wyniki dwóch grup pracowników fabryki w zadaniu wizualnej kontroli jakości produktów elektronicznych.
Pierwszą grupę wspomagała konwencjonalna sztuczna inteligencja „czarnej skrzynki”, podczas gdy druga korzystała ze sztucznej inteligencji, która zapewniała wizualne mapy cieplne wyjaśniające przewidywania dotyczące potencjalnych problemów z jakością.
Przykład sztucznej inteligencji „czarnej skrzynki” w porównaniu z sztuczną sztuczną inteligencją, którą można wyjaśnić w zadaniu inspekcji wizualnej
Wyniki były uderzające: eksperci bez wyjaśnień ponad trzykrotnie częściej błędnie pominęli dokładne zalecenia wydane przez sztuczną inteligencję. Z kolei osoby wzmocnione przez XAI lepiej wiedziały, kiedy zaufać sztucznej inteligencji, a kiedy polegać na własnej wiedzy specjalistycznej, osiągając w ten sposób lepsze wyniki niż sam system sztucznej inteligencji.
To pokazuje, że XAI to nie tylko mądrzejsze decyzje dotyczące maszyn; to podejście transformacyjne, które umożliwia zarówno ludziom, jak i maszynom osiąganie najlepszych wyników.
XAI jest nie tylko korzystny w zapewnianiu wsparcia decyzyjnego operatorom w hali produkcyjnej; może również pomóc w zrozumieniu złożonych systemów produkcyjnych, zapewniając krytyczny wgląd ekspertom ds. produkcji.
W innym projekcie badawczym, który przeprowadziliśmy w fabryce półprzewodników, wzbogaciliśmy ekspertów ds. procesów o narzędzia XAI, aby wyjaśnić pierwotne przyczyny problemów z jakością . Chociaż sztuczna inteligencja wyjaśniła złożone powiązania między zmiennymi produkcyjnymi a wynikami jakościowymi, przekształcenie tych spostrzeżeń w skuteczne działania udoskonalające wymagało wiedzy ludzkiej.
Porównując wyjaśnienia sztucznej inteligencji z własną wiedzą dziedzinową, eksperci byli w stanie zaprojektować ukierunkowane eksperymenty w celu potwierdzenia podstawowych przyczyn utraty jakości. Wynik? Straty w jakości spadły o ponad 50%, co świadczy o skuteczności współpracy człowieka z maszyną w oparciu o wyjaśnienia oparte na sztucznej inteligencji.
Przekonujący argument za rozszerzoną inteligencją
Nasze badania zdecydowanie sugerują, że przyszłość produkcji to nie walka ludzi z maszynami, ale raczej wspólne przedsiębiorstwo, które wykorzystuje unikalne mocne strony obu technologii .
Wiele zadań służbowych nie zostanie i nie może zostać zastąpionych ani delegowanych sztucznej inteligencji. Sztuczna inteligencja może jednak usprawnić pracę człowieka i tworzyć skuteczniejsze i wydajniejsze zadania – zwłaszcza gdy wyjaśnione zostaną decyzje AI.
Wyjaśniając, „jak” i „dlaczego” stojące za każdą rekomendacją algorytmiczną, XAI pomaga wydobyć to, co najlepsze z ludzkich możliwości rozwiązywania problemów, oparte na spostrzeżeniach opartych na sztucznej inteligencji.
Popularna debata nie powinna ograniczać się do narracji „ludzie kontra sztuczna inteligencja”, lecz zamiast tego badać liczne możliwości, jakie oferuje synergia. Nasze badania podkreślają, że współpraca między sztuczną inteligencją a ludźmi może być szczególnie skuteczna przy rozwiązywaniu problemów, z którymi żaden z nich nie byłby w stanie poradzić sobie sam.
Wzywamy zatem do zmiany paradygmatu: zamiast „zastępować” ludzi sztuczną inteligencją, konieczne będzie „wzmocnienie” ludzi. Wymaga to zupełnie innego zestawu narzędzi i jedno z nich uważamy za szczególnie istotne: XAI.
Juliana Senonera
Dyrektor generalny EthonAI
Stefana Feuerriegla
Profesor Instytutu AI w Zarządzaniu, LMU Monachium
Torbjørn Netland
Profesor zarządzania produkcją i operacjami, ETH Zurich
Artykuł Światowego Forum Ekonomicznego publikowany zgodnie z Międzynarodową Licencją Publiczną Creative Commons.