Forskare ifrån Massachusetts Institute of Technology (MIT) har gjort en studie där deltagare får interagera med AI system för att lära sig om AI systemets styrkor och svagheter, vilket kan främja gott samarbete mellan människor och AI exempelvis i automatiserade fordon [1].
I studien fick deltagare en text med en fråga och svaret till frågan. Deltagarna fick sedan välja om de ville svara själva eller låta AI systemet svara på frågan. Efter valet, så fick deltagarna se det korrekta svaret tillsammans med AI-systemets svar samt en förklaring av AI-systemets resonemang. Deltagarna fick också ytterligare förklaring till varför AI- systemet svarade rätt eller fel i form av exempel. Dessa förklarande exempel togs fram av ett annat AI som specialiserades på att hitta pedagogiska exempel för deltagaren. Med kunskapen om hur AI systemet resonerat, och med förklarande exempel, kunde deltagarna skriva ner regler kring AI systemets brister efter varje fråga.
Forskarna delade upp deltagarna i tre grupper. Första gruppen fick genomgå hela upplägget inklusive förklaringar och förklarande exempel. Andra gruppen fick inte se de förklarande exemplen. Tredje fick ingen hjälp men de fick se AI-systemets svar i förväg.
Resultaten visade att de som fick genomgå hela upplägget presterade lika bra som de som fick svaret i förväg, vilket forskarna tolkade som att de hade lärt sig att simulera AI systemets svar lika väl som om de hade sett det. Det visade sig också att hälften av de som fick träning formulerade korrekta regler för AI systemet och hade också högst antal rätt svar på frågorna, bättre än de som fick se AI systemet svar i förväg. Tolkningen här var att inlärning har en stor påverkan när den lyckas.
Egen kommentar
Kan vi få en ökad transparens mellan människa och maskin när det kommer till förarstödsystem och automatiserade fordon så kan vi förhoppningsvis se en ökad acceptans och användning av sådana system. Den här studien visar på att man kan nyttja AI för att förklara AI, vilket jag tycker är väldigt intressant.
Källa
[1] Zewe, A., MIT News. When should someone trust an AI assistant’s predictions? 2022-01-19 Länk