Нова книга на угледниот компјутерски научник Питер Џ. Денинг отвора стара, но сè поактуелна расправа: дали современата вештачка интелигенција е изградена врз погрешна основна претпоставка. Според него, голем дел од истражувањата во ова поле со децении се водат од идејата дека човечката интелигенција може целосно да се одвои од телото и да се пресоздаде во софтвер.
Денинг во книгата „Turing’s Mistake: Escaping the Yoke of Unintelligent Machines“ тврди дека две влијателни идеи од текстот на Алан Тјуринг од 1950 година и натаму силно го обликуваат развојот на ВИ. Првата е дека интелигенцијата може да постои независно од физичкото тело, а втората е дека машина може да се смета за интелигентна ако успешно имитира човек во разговор, односно ако го помине т.н. Тјурингов тест.
Клучниот аргумент на Денинг е дека човечкото знаење не се сведува само на факти, правила и јазик. Тој посочува на премолчено знаење, односно знаење што луѓето го користат секојдневно, но тешко го претвораат во јасни формули или инструкции. Во таа група ги вбројува здравиот разум, интуицијата, емоционалното разбирање, практичните вештини и културниот контекст.
Токму тука, според него, настанува најголемиот проблем за системите што учат од податоци. Компјутерите можат да обработуваат само она што е претставено во форма што може да се кодира, мери и пресметува. Но значењето што луѓето го внесуваат во зборовите, одлуките и однесувањето често произлегува од искуство, телесност, средина и општествени односи, а не само од експлицитни информации.
Денинг потсетува и на долготрајните обиди здравиот разум да се претвори во огромни бази на знаење. Како пример го наведува проектот Cyc, кој со децении собирал милиони записи за секојдневни факти и правила. И покрај тој обем, заклучокот е дека експертското разбирање не може лесно да се изгради само со натрупување искази, бидејќи значаен дел од човечката стручност останува некажан и тешко пренослив.
Практичните вештини, според него, се уште поголем предизвик. Човек може мајсторски да свири, да вози, да препознае суптилен емоционален сигнал или да реагира со чувство за моментот, а сепак да не може прецизно да објасни како го прави тоа. Описот на резултатот е едно, но знаењето „како“ се постигнува тој резултат е сосема друго.
Авторот смета дека големите јазични модели можат убедливо да ракуваат со зборови, но тоа не значи дека навистина го разбираат светот на начин на кој го разбираат луѓето. Во неговото толкување, јазикот е симболичка површина зад која стои длабок слој на искуство, контекст и култура. Без тој слој, машинските системи можат да звучат уверливо, а сепак да немаат вистинско сфаќање на смислата.
Посебно место во аргументот има контекстот. Луѓето во разговор препознаваат иронија, искреност, двосмисленост, шега, дипломатски тон и скриени пораки врз основа на претходни искуства и заеднички претпоставки. Истото важи и за културата, која опфаќа вредности, навики, историја, односи на моќ, чувство на припадност и начини на процена што тешко се преточуваат во код.
Од ова Денинг извлекува и безбедносен заклучок. Ако машините не можат целосно да го прочитаат човечкиот премолчен контекст, тогаш усогласувањето на напредните ВИ-системи со човечките цели може да биде многу потешко отколку што често се претпоставува. Според него, поголемата опасност не е нужно „суперинтелигентна“ машина што ќе го преземе светот, туку автономни системи што ќе развијат сопствени начини на дејствување кои луѓето тешко ќе ги предвидат или контролираат.
Овие ставови не значат дека ВИ нема да биде корисна, туку дека можеби постојат цврсти граници до кои може да стигне ако се мери според човечката интелигенција. Расправата што ја отвора Денинг е важна токму затоа што доаѓа во време кога технолошкиот сектор сè почесто зборува за општа вештачка интелигенција. Неговата порака е дека општеството треба внимателно да прави разлика меѓу способност за генерирање убедливи одговори и вистинско разбирање на човечкиот свет.
