Човечеството трябва да „разоръжи“ изкуствения интелект и да го извади от логиката на въоръжената надпревара, а тя вече не се ограничава само до военните конфликти, но и до икономическото и когнитивното съперничество.
„Не съществува алгоритъм, който да направи войната морално приемлива“.
Разоръжаването не означава отказ от технологиите, а предотвратяване на тяхното господство над човека.
Това казва папа Лъв XIV в своята първа енциклика – програмно послание и един от най-важните документи в Католическата църква. Папата го посвети на предизвикателствата пред хората заради изкуствения интелект.
За първи път папата представи енцикликата лично и в пряко предаване, което може да се гледа през YouTube.
„Magnifica humanitas“ („Великолепното човечество“) очертава визията на Лъв XIV за ерата на AI, технологиите и глобалните конфликти.
Той предупреждава, че светът е изправен пред решаващ избор – да изгради нова Вавилонска кула или да построи „град, в който Бог и човечеството живеят заедно“.
Изкуственият интелект не е неутрален, а приема облика на онези, които го създават, финансират и управляват.
Всеки технически инструмент има предварително зададени избори и приоритети и те могат да се видят по това какво измерва, какво пренебрегва и какво опитимизира, как класифицира хората и ситуациите.
Той може да имитра човека, но не притежава съзнание, морал, емпатия или духовност, затова се нуждае от независим обществен контрол и международни регулации.
Папата предупреждава още, че концентрацията на технологични ресурси в ръцете на няколко души задълбочава разделението.
Заедно с него на трибуната беше и Крис Ола – съосновател на една от най-големите глобални компании за AI Anthropic.
33-годишният канадски изследовател и милиардер отговаря за изготвянето на т.нар. конституция на чатбота на Anthropic – Claude. Това е система от морални и етични принципи, по която моделът трябва да се регулира. Ола смята, че разработването на AI e цивилизационен въпрос, а не само технически проблем за решаване.
Ола описва три основни теми, които имат нужда от колективна работа, а не да се оставят само на големите компании-разработчици. Тези принципи са: „отговорността към бедните по света“, „въображение и амбиция с морал“ и „необходимостта от способност да различаваме добро от лошо„.
Въпреки че той е определян като атеист – присъствието му във Ватикана редом до папа Лъв XIV се смята за силен сигнал, че църквата иска да води диалог с технологичната индустрия, а не да я заклеймява.
About the Author
