Firmy AI pytają religie o moralność. Badacze mają wątpliwości

Firmy rozwijające sztuczną inteligencję coraz częściej zwracają się do duchownych i filozofów z pytaniem, jak nauczyć chatboty odróżniać dobro od zła. Część badaczy religii ostrzega jednak, że takie podejście opiera się na uproszczonym obrazie wiary jako zbioru zasad, które można wyciągnąć i wgrać do modelu.

Dlaczego technologiczne laboratoria szukają pomocy u wierzących

Według relacji agencji Associated Press szefowie firm technologicznych z jednej strony ostrzegają przed destrukcyjnym potencjałem AI, z drugiej przekonują, że modele powinny być moralnie dobre. Ponieważ same firmy nie są związane z żadną religią, cel jest szeroki: zebrać różne idee moralne, które mogłyby kształtować zachowanie modeli. Szef OpenAI Sam Altman mówił w ubiegłym roku, że ChatGPT powinien odzwierciedlać „ważoną średnią” moralnych poglądów ludzkości.

Anthropic poinformował w majowym wpisie na blogu, że spotkał się z uczonymi, duchownymi, filozofami i etykami z ponad 15 grup religijnych i międzykulturowych, i chce ten krąg poszerzać. Firma podkreśla, że nie chodzi o dopasowanie modelu do jednego światopoglądu, lecz o czerpanie z religijnych, świeckich i politycznych perspektyw. Przedstawiciele Mety, Google’a i Amazona rozmawiali z Watykanem, a Microsoft również aktywnie kontaktuje się ze środowiskami religijnymi.

Uczestnicy spotkań oceniają je dobrze. Meghan Sullivan, filozofka religii z Uniwersytetu Notre Dame, wzięła udział w jednym z nich i doceniła dociekliwość pracowników Anthropica. Najpierw firma wyjaśniała, jak działają jej modele, a potem duchowni dyskutowali o pytaniach moralnych, od tego, czy ludzie mają dusze, po to, czy uczniowie trzeciej klasy powinni korzystać z chatbota do nauki czytania.

Religia to nie podręcznik zasad

Krytycy zwracają uwagę na sam punkt wyjścia. Webb Keane, antropolog z Uniwersytetu Michigan, przypomina, że od dziesięcioleci badacze podważają pogląd, według którego religię da się oddzielić od „bałaganiarskiej, praktycznej” codzienności wierzących. Jego zdaniem jeśli założymy, że religia dostarcza zestawu zasad do wydobycia, część tradycji może zostać wyróżniona, a inne zniekształcone. Dotyczy to zwłaszcza wyznań, które nie postrzegają siebie przede wszystkim jako systemu etycznego.

Keane mówi wprost: „Istnieje bardzo konwencjonalne myślenie o religii jako o podręczniku zasad”. Dodaje, że jest ono silnie związane z religiami opartymi na pismach, czyli w praktyce z religiami abrahamicznymi.

Pojęcie „religii” jest młodsze, niż się wydaje

Religię uważa się zwykle za zjawisko prastare i powszechne, ale badacze zwracają uwagę, że to tylko część prawdy. Pogląd, że istnieją odrębne, porównywalne „religie świata”, jest według nich pojęciem nowoczesnym, które wywodzi się z XIX wieku. Tomoko Masuzawa, autorka książki „The Invention of World Religions”, przypomina, że buddyzm czy hinduizm nie były postrzegane jako wyraźnie ograniczone tradycje przez samych wyznawców, zanim pojawili się europejscy uczeni. Zachodnia akademia zaczęła poważnie rewidować te kategorie dopiero w drugiej połowie XX wieku.

To pomaga zrozumieć, czemu Dolina Krzemowa nie czuje potrzeby definiowania religii. Jest ona wygodnym sposobem pokazania różnorodności poglądów.

Paolo Carozza, członek niezależnej Rady Nadzorczej Mety i badacz katolickiej nauki społecznej, obawia się, że w dążeniu do gromadzenia wiedzy cechy charakterystyczne poszczególnych tradycji zostaną zatarte. Wynik mógłby ciążyć ku środkowi albo faworyzować religie zachodnie. Żywe tradycje rozwijają się organicznie w kontakcie z innymi, a AI może je po prostu wymieszać, tak że nic nie będzie miało sensu.

Co to znaczy dla polskiego użytkownika

Artykuł dotyczy głównie amerykańskich firm i ich rozmów, ale z chatbotów korzystają także Polacy. W praktyce oznacza to, że odpowiedzi na pytania o moralność, wiarę czy wychowanie mogą być kształtowane przez decyzje podejmowane daleko od Polski i według założeń, które nie wszyscy podzielają. Warto o tym pamiętać, pytając model o sprawy światopoglądowe: to nie neutralny arbiter, tylko produkt zaprojektowany w określony sposób.

Ze źródła nie wynika, by któraś z opisanych inicjatyw miała bezpośredni związek z Polską lub z regulacjami UE. Unijne przepisy o AI koncentrują się na ryzyku i bezpieczeństwie, a nie na tym, jaką filozofię powinny reprezentować modele. Dla kraju o silnych tradycjach katolickich ciekawy może być jednak fakt, że Watykan stał się jednym z miejsc takich rozmów. Spór dopiero się toczy i nie wiadomo, jak ostatecznie wpłynie na to, co mówią chatboty.

Źródło: Tech Xplore – „To make AI morally good, tech companies are turning to religion. But some say it isn’t that simple”