Narzędzie do wykrywania i eliminowania przemocy w internecie stworzyło Samurai Labs, pierwsze polskie laboratorium sztucznej inteligencji zlokalizowane w gdyńskim Pomorskim Parku Naukowo-Technologicznym. System Samurai został już doceniony w Europie, a obecnie jest testowany w Stanach Zjednoczonych.

Jego zadaniem jest wykrywanie i zwalczanie przemocy w internecie. Technologia ma chronić zwłaszcza użytkowników stron, na których występuje szczególnie duże ryzyko spotkania agresora lub pedofila, jak fora internetowe, portale randkowe czy komunikatory. System działa w czasie rzeczywistym, analizując rozmowy dzięki połączeniu uczenia maszynowego z wnioskowaniem.

– Naszym celem jest zatrzymanie przemocy zamiast reagowanie po fakcie. Tworzymy pierwszego na świecie internetowego samuraja, który będzie czuwał nad bezpieczeństwem dzieci – podkreśla Michał Wroczyński, prezes Samurai Labs.

MA RATOWAĆ POTENCJALNYCH SAMOBÓJCÓW

Aktualnie system jest wdrażany w amerykańskich szkołach. W Polsce Samurai Labs współpracuje z Fundacją Dajemy Dzieciom Siłę, dążąc do udoskonalenia rozumienia intencji samobójczych w wypowiedziach internautów. Technologia stworzona przez firmę była też testowana w serwisie Reddit.

OCHRONA BEZ NIEPOTRZEBNEJ CENZURY

Samurai jest pierwszym na rynku systemem, który rozumie kontekst i logikę wypowiedzi na tyle dobrze, by odróżnić przekleństwo od ataku czy groźby, a rzeczową wypowiedź na temat seksu od napastowania. Dzięki temu może chronić przed agresją lub pedofilią bez wprowadzania niepotrzebnej cenzury.

System obecnie działa w języku angielskim. Prowadzone są prace nad jego polskojęzyczną wersją.