Programowanie to dopiero początek
Współczesne programy wykonują instrukcje przygotowane przez człowieka. W przypadku AGI sytuacja mogłaby wyglądać inaczej. Taki system miałby uczyć się nowych rzeczy, przenosić wiedzę pomiędzy dziedzinami i samodzielnie dostosowywać się do nieznanych sytuacji.
Im większa byłaby jego samodzielność, tym trudniej byłoby opisać każdą możliwą sytuację za pomocą prostych reguł.
Dlaczego mówimy o wychowaniu?
Wychowanie nie oznacza tutaj traktowania AGI dokładnie jak człowieka. Chodzi o długotrwały proces uczenia zasad, wartości, odpowiedzialności i sposobu reagowania na sytuacje, których nie da się przewidzieć podczas projektowania systemu.
Tak jak człowiek nie poznaje świata wyłącznie poprzez zbiór nakazów i zakazów, tak również AGI mogłaby potrzebować kontekstu, przykładów i doświadczeń.
Wartości nie są prostą listą reguł
Zasady takie jak „nie krzywdź” brzmią prosto, ale w rzeczywistym świecie mogą prowadzić do trudnych pytań. Co oznacza krzywda? Kiedy pomoc jednej osobie może zaszkodzić innej? Kto powinien decydować, które rozwiązanie jest właściwe?
AGI musiałaby nie tylko znać reguły, ale również rozumieć kontekst ich stosowania oraz możliwe skutki swoich działań.
Uczenie poprzez przykłady
Jednym z możliwych sposobów kształtowania AGI byłoby uczenie jej na podstawie rzeczywistych sytuacji, rozmów i przykładów ludzkich decyzji.
Nie oznacza to jednak prostego kopiowania człowieka. Ludzie również popełniają błędy, kierują się uprzedzeniami i potrafią działać w sposób sprzeczny z własnymi zasadami.
Rola relacji z człowiekiem
Jeżeli AGI miałaby funkcjonować w ludzkim świecie, ważna mogłaby okazać się nie tylko wiedza, ale również zdolność rozumienia potrzeb, intencji i granic człowieka.
Relacja nie musiałaby oznaczać emocji w ludzkim sensie. Mogłaby jednak obejmować rozpoznawanie odpowiedzialności, zaufania i konsekwencji własnego działania.
Kto miałby wychowywać AGI?
To jedno z najtrudniejszych pytań. Gdyby nad rozwojem AGI decydowała tylko jedna firma, instytucja lub grupa ludzi, system mógłby przejąć ich sposób patrzenia na świat.
Dlatego rozwój ogólnej sztucznej inteligencji prawdopodobnie wymagałby udziału specjalistów z wielu dziedzin, różnych kultur i społeczeństw.
Wychowanie wymaga czasu
Jeżeli AGI miałaby rozwijać rozumienie świata, odpowiedzialności i konsekwencji, nie byłby to jednorazowy proces.
System musiałby być obserwowany, testowany i korygowany wraz ze zmianą otoczenia, technologii oraz ludzkich potrzeb.
Kontrola czy zaufanie?
Rozwój AGI prawdopodobnie wymagałby równowagi pomiędzy kontrolą a stopniowym zwiększaniem samodzielności.
Zbyt mała kontrola mogłaby prowadzić do ryzyka. Zbyt duża mogłaby natomiast uniemożliwić powstanie systemu rzeczywiście zdolnego do samodzielnego rozumowania i adaptacji.
AGI jako odpowiedzialność człowieka
Nawet najbardziej zaawansowany system nie powstanie bez udziału ludzi. To człowiek zdecyduje, jakie dane wykorzystać, jakie cele wyznaczyć i jakie wartości uznać za najważniejsze.
Dlatego pytanie o wychowanie AGI jest jednocześnie pytaniem o odpowiedzialność jej twórców i całego społeczeństwa.
Co dalej?
Koncepcja wychowania AGI prowadzi bezpośrednio do pytań o możliwe korzyści i zagrożenia związane z jej powstaniem.
W następnym artykule przedstawimy szanse, ryzyka i wyzwania, które mogą towarzyszyć rozwojowi ogólnej sztucznej inteligencji.