Престижниот магазин „MIT technology review“ објави текст под наслов „Мрачната тајна во срцето на вештачката интелигенција“, каде се наведува дека „Никој навистина не знае како најнапредните алгоритми го прават тоа што го прават.
„Тоа би можело да биде проблем“- се вели во текстот.
Минатата година, необичо автономно возило било пуштено по мирните патишта во округот Монмаут во сојузната држава Њу Џерси. Експерименталното возило кое го развиле истражувачите на производителот на чипови „Nvidia“, по изгледот не се разликувало од другите автономни автомобили, но не било ни налик на ништо што го имаат прикажано „Google“, „Tesla“ или „General Motors“ и покажало растечка моќ на вештачката интелигенција, се наведува во текстот.
Автомобилот не ја следел ниедна од инструкциите зададена од инжинер или програмер. Наместо тоа, целосно се потпирал на алгоритам, со помош на кој научил самиот да вози, гледајќи човек како го прави тоа. Да се овозможи автомобил да вози на ваков начин претставува импресивно достигнување, но истовремено по малку внесува и немир, бидејќи не е потполно јасно како автомобилот ги носи одлуките – стои во текстот.
Се наведува и дека информациите од сензорите на возилото одат директно во огромна мрежа од вештачки неврони кои ги обработуваат податоците и потоа задаваат команди неопходни за управување на воланот, сопирачките и другите системи.
Резултатот изгледа дека одговара на рекциите што би се очекувале од човек возач. Но, што ако еден ден направи нешто неочекувао-да удри во дрво или да застане кога на семафорот ќе се вклучи зелено светло. Како што сега стојат работите, ќе биде многу тешко да се открие зошто го направил тоа. Системот е толу сложен, што дури и на инжинерите што го дизајнирале би можело да им биде тешко да ја изолираат причината за било која поединечна акција.
Магазинот наведува и дека слична мистерија предизвикува и програмот „Deep Patient“, кој се применува во болницата Маунт Синај во Њујорк и многу прецизно ја проценува болеста на пациентот, без било какво влијание и стручна интервенција од доктор или друг медицински персонал.
(целиот текст може да го прочитате тука)