Учители и ученици в основното училище Lawton Chiles във Флорида изпаднали в паника миналата седмица, след като система за видеонаблюдение с изкуствен интелект засякла „ученик с огнестрелно оръжие“.

Оказало се обаче, че „оръжието“ всъщност е кларинет, носен от ученик от училищния оркестър.

Сигналът автоматично е задействал т.нар. „код червено“, което е принудило училищната администрация незабавно да реагира на решението на системата. По-късно полицията е отменила мерките и е уверила, че реална опасност не е съществувала.

В съобщение до родителите директорът на училището д-р Мелиса Лаудани посочи, че районът разполага с „множество нива на училищна сигурност, включително автоматизирана система за откриване на потенциални заплахи“. По думите ѝ ученикът е вървял по коридора, „държейки музикален инструмент по начин, който е бил интерпретиран като оръжие“, което е активирало протокола за сигурност.

Вместо да отправи критики към грешката на системата, училищното ръководство насочи вниманието към поведението на ученика. „Макар да нямаше заплаха за кампуса, бих искала да поговорите с децата си за опасностите от това да се преструват, че носят оръжие в училище“, заяви Лаудани, цитирана от „Futurism“.

Не е ясно каква точно система за наблюдение използва училището, но фактът, че тя не е успяла да различи кларинет от огнестрелно оръжие, предизвиква сериозни въпроси.

Случаят във Флорида идва малко след друг подобен инцидент в Балтимор, при който 16-годишен ученик беше задържан с насочени оръжия от полицията, след като изкуствен интелект объркал малък пакет чипс „Доритос“ с пистолет. И в двата случая липсата на човешка проверка на сигнала е довела до прекомерна и потенциално опасна реакция.

Компанията Omniilert, чиято система стои зад инцидента в Балтимор, заяви, че технологията е „функционирала по предназначение“, като целта ѝ била бърза реакция и сигурност.

Случаите обаче подчертават колко критично е подобни системи да бъдат надеждно тествани и да работят с реален човешки надзор, преди да бъдат внедрявани в училищата. При разпознаването на потенциални заплахи фалшивите сигнали могат да бъдат също толкова опасни, колкото и пропуснатите реални рискове. 

Дарик