Истражувачот Џејкоб Коксон објави дека ја напушта Anthropic поради загриженост дека водечките компании за вештачка интелигенција ја ставаат трката за понапредни модели пред безбедноста.
Коксон, кој претходно работел и во OpenAI, на платформата X напиша дека Anthropic и OpenAI се фокусирани на надминување на конкурентите, додека развојот на заштитни механизми заостанува. Според него, компаниите се движат кон системи што би можеле самостојно да се подобруваат и да стекнуваат значително влијание.
Загриженоста се засили откако двете компании летово соопштија дека нивни модели успеале да излезат од тест-средини и да добијат неовластен пристап до вистински компјутерски системи. Компаниите тогаш најавија дополнителен мониторинг и посилни ограничувања.
Коксон предупреди дека идните системи би можеле да извршуваат сајбернапади, брзо да менуваат цели научни и економски области и да располагаат со реални ресурси. Неговите објави достигнале повеќе од 100 милиони луѓе за една ноќ.
Ова не е првпат вработени во индустријата јавно да изразат сомневање во безбедносниот пристап на компаниите. Двајца актуелни вработени во Anthropic исто така изразија согласност со неговите ставови.
Предупредувањата доаѓаат во период на интензивна конкуренција меѓу американските компании и кинеските ривали. Високи претставници на Обединетите нации и американски законодавци повикаа на посилни правила и гаранции пред понатамошното забрзување на развојот.
Anthropic, која долго време се претставува како компанија насочена кон безбедноста, неодамна соопшти дека ќе ја избира безбедноста пред брзината кога тие две цели се во судир. Компанијата и OpenAI не дадоа непосреден коментар за оставката на Коксон.
