Ноам Чомски: Лажното Ветување на ChatGPT

-

Автори: Noam Chomsky, Ian Roberts и Jeffrey Watumull

Д-р Чомски и д-р Робертс се професори по лингвистика. Д-р Ватмјул е директор на вештачка интелигенција во компанија за наука и технологија.

Хорхе Луиз Борхес (Jorge Luis Borges) еднаш напиша дека живеењето во време на голема гибел и ветување значи да се доживеат обете: и трагедија и комедија, со „непосредноста на откровението“ при разбирањето на себеси и светот.

Денес, нашите наводно револуционерни напредоци во вештачката интелигенција навистина се причина за загриженост и оптимизам.

Оптимизам, бидејќи интелигенцијата е средство со коешто решаваме проблеми.

Загриженост бидејќи се плашиме дека најпопуларниот и најмодерниот сој на ВИ — машинското учење — ќе ја намали нашата наука и ќе ги обезвреди нашите етички вредности со вградување во нашата технологија фундаментално погрешна концепција за јазикот и знаењето.

ChatGPT на OpenAI, Bard на Google и Sydney на Microsoft се чуда на машинското учење. Грубо кажано, тие земаат огромни количества на податоци, бараат шеми во нив и стануваат сè поспособни за генерирање статистички веројатни одговори — како што се, наизглед, човечкиот jазик и мисли.

Овие програми беа славени како првите светилки на хоризонтот на вештачката општа интелигенција — тој момент на дамнешно пророштво, кога механичките умови ќе ги надминат човечките мозоци, не само квантитативно, во поглед на брзината на обработка и големината на меморијата, туку и квалитативно, во поглед на интелектуалниот увид, уметничката креативност и секоја друга дистинктивно човечка способност.

Тој ден може да дојде, но зората сè уште не светнала, спротивно на она што може да се прочита во хиперболичните наслови, и да се пресмета со неразумните инвестиции. Борхесовото откровение на разбирањето не се случило — и, тврдиме дека, не може да се случи ако програмите за машинско учење како ChatGPT продолжат да доминираат во областа на ВИ. Без оглед колку овие програми може да бидат корисни во некои тесни домени (т.е. може да бидат корисни во компјутерското програмирање, или во предложување на рими за лесна поезија), ние знаеме во науката за лингвистика и филозофијата на знаењето, дека тие значително се разликуваат во начинот на кој човекот размислува и го користи јазикот.

Овие разлики поставуваат значителни ограничувања за тоа што овие програми можат да направат, кодирајќи ги со неизбежни дефекти.

Истовремено е комично и трагично, како што Борхес можеби би забележал, дека толку многу пари и внимание можат да бидат концентрирани на нешто толку мало нешто — нешто толку тривијално кога се споредува со човечкиот ум, кој со дарбата на јазикот, во зборовите на Вилхелм фон Хумболт, може да направи „бесконечна употреба на конечни средства“, создавајќи идеи и теории со универзален домет.

Човечкиот ум не е, како ChatGPT и сличните на него; голем статистички мотор за спарување на шеми, голтајќи стотици терабајти на податоци и екстраполирајќи најверојатен разговорен одговор или најверојатен одговор на научно прашање. Напротив, човечкиот ум е изненадувачки ефикасен и дури елегантен систем кој работи со мали количества на информации; тој не тежнее да инферира брутални корелации помеѓу податочните точки, туку да создаде објаснувања.

На пример, едно мало дете што го стекнува јазикот развива — несвесно, автоматски и брзо со минимални податоци — граматика, страшно сложен систем на логички принципи и параметри. Оваа граматика може да се смета за израз на вродениот, генетски инсталиран „оперативен систем“ што им овозможува на луѓето капацитет да генерираат комплексни реченици и долги низи на мисли. Кога лингвистите се обидуваат да развијат теорија за тоа зошто даден јазик работи како што работи („Зошто овие — а не тие — реченици се сметаат за граматички точни?“), тие свесно и со напор градат експлицитна верзија на граматиката што детето ја изградува инстинктивно и со минимална изложеност на информации.

Оперативниот систем на детето е сосема различен од тој на програмата за машинско учење.

Навистина, таквите програми се заглавени во прехумана или нечовечка фаза на когнитивната еволуција. Нивниот најдлабок недостаток е отсуството на најкритичниот капацитет на било која интелигенција: да зборува не само што е , што беше, и што ќе биде можно - тоа е опис и предвидување - туку исто така и што не е, што би можело и не би можело да биде можно. Тоа се состојките на објаснувањето, белег на вистинската интелигенција.

Еве еден пример. Да претпоставиме дека држите јаболко во раката. Сега го пуштате јаболкото. Го набљудувате резултатот и велите: "Јаболкото паѓа." Тоа е опис. Предвидување би можело да биде изјавата "Јаболкото ќе падне доколку ја отворам раката."

И двете се вредни и може да бидат точни. Но, објаснувањето е нешто повеќе: тоа вклучува не само описи и предвидувања, туку и контрафактични заклучоци како "Било кој таков објект би паднал", плус дополнителната клазула "поради силата на гравитацијата" или "поради кривата на време-просторот" или што било. Тоа е причинско објаснување: "Јаболкото не би паднало без силата на гравитацијата." Тоа е размислување.

Срцевината на машинското учење е опис и предвидување; не потенцира никакви причински механизми или физички закони. Се разбира, било какво човечко објаснување не е неопходно точно; ние сме погрешливи. Но, ова е дел од тоа што значи да се мисли: за да бидеме во право, мора да е можно да правиме грешки. Интелигенцијата состои не само од креативни претпоставки туку и од креативни критики.

Човечкото размислување е базирано на можни објаснувања и исправка на грешки, процес кој постепено ограничува на кои можности може разумно да се смета. (Како што Шерлок Холмс му рече на д-р Ватсон, "Кога ги елиминирате невозможните работи, што и да остане, колку и да е неверојатно, мора да биде вистината.")

Но, ChatGPT и сличните програми, по дизајн, се неограничени во тоа што можат да го ,,научат" (односно, да запаметат); тие се неспособни да го разликуваат можното од невозможното. За разлика од луѓето, на пример, кои се надарени со универзална граматика која ги ограничува јазиците што можеме да ги научиме на тие со извесна вид на скоро математичка елеганција, овие програми учат јазици што се и човечки можни и човечки неможни со иста леснотија. Додека луѓето се ограничени во видовите објаснувања што разумно можеме да претпоставиме, системите за машинско учење можат да научат и дека Земјата е рамна, и дека Земјата е кружна. Тие тргуваат само со веројатности кои се менуваат со времето.

Поради оваа причина, предвидувањата на системите за машинско учење секогаш ќе бидат површни и сомнителни. Бидејќи овие програми не можат да објаснат правилата на англиската синтакса, на пример, тие може да предвидат, погрешно, дека "John is too stubborn to talk to" значи дека Џон е толку тврдоглав што нема да разговара со некого (наместо дека е премногу тврдоглав за да се убедува). Зошто машинска програма за учење би предвидела нешто така чудно? Бидејќи може да ја аналогизира шемата што ја инферирала од реченици како "Џон јадеше јаболка" и "Џон јадеше", каде што последното навистина значи дека Џон изел нешто или друго. Програмата добро може да предвиди дека бидејќи „Џон е премногу тврдоглав за да зборува со Бил“ е слично на „Џон јадеше јаболко“, „Џон е премногу тврдоглав за да зборува“ треба да биде слично на „Џон јадеше“. Точните објаснувања на јазикот се комплицирани и не можат да се научат само со маринирање во големи податоци.

Перверзно е што некои ентузијасти за машинско учење се чини дека се горди што нивните творби можат да генерираат точни „научни“ предвидувања (на пример, за движењето на физичките тела) без да користат објаснувања (вклучувајќи, на пример, Њутновите закони за движење и универзална гравитација). Но, овој вид предвидување, дури и кога е успешно, е псевдонаука. Додека научниците сигурно бараат теории кои имаат висок степен на емпириска короборација, како што забележа филозофот Карл Попер, „не бараме високо веројатни теории, туку објаснувања; односно, моќни и високо неверојатни теории.“

Теоријата дека јаболките паѓаат на земјата затоа што тоа е нивното природно место (гледиштето на Аристотел) е можно, но таа само поканува дополнителни прашања. (Зошто земјата е нивното природно место?) Теоријата дека јаболките паѓаат на земјата затоа што масата го искривува простор-времето (гледиштето на Ајнштајн) е високо неверојатно, но таа всушност ви кажува зошто тие паѓаат. Вистинската интелигенција се покажува во способноста да мисли и изразува неверојатни, но проникливи работи.

Вистинската интелигенција е исто така способна за морално размислување. Ова значи ограничување на инаку неограничената креативност на нашите умови со множество на етички принципи што одредува што би требало и што не би требало да биде (и секако, подложување самите принципи на креативна критика). За да биде корисен, ChatGPT мора да биде овластен да генерира нов изглед на резултатот; за да биде прифатлив за повеќето од неговите корисници, мора да се држи подалеку од морално сомнителна содржина. Но, програмерите на ChatGPT и другите чуда на машинското учење се напрегаат- и ќе продолжат да се напрегаат - да постигнат ваква рамнотежа.