Carbox Slovakia

Spoločnosť dlhodobo spolupracuje s občianskym združením Ochráňma,  nezisková organizácia zameraná na ochranu detí pred internetovými predátormi a boj proti CSAM obsahu. 

O spoločnosti

    Spoločnosť Carbox Slovakia s. r. o. vykonáva výskumno-vývojové aktivity v oblasti kybernetickej bezpečnosti, so zameraním na autentifikáciu a overovanie online používateľov a ochranu rizikových skupín pred spamom, malvérom a inými kybernetickými hrozbami.

    Spoločnosť dlhodobo spolupracuje s občianskym združením Ochráňma. Ochráňma je nezisková organizácia zameraná na ochranu detí pred internetovými predátormi a boj proti detskej pornografii a CSAM obsahu. Je jedinou oficiálnou národnou hotline linkou na Slovensku, ktorá zabezpečuje nahlasovanie a odstraňovanie CSAM a ďalšieho nelegálneho alebo nevhodného obsahu. 

    Ochráňma upozorňuje poskytovateľov internetových služieb na povinnosť rýchleho odstránenia obsahu a spolupracuje s orgánmi činnými v trestnom konaní s cieľom identifikácie obetí a páchateľov.

    Organizácia plní úlohy podľa smernice Európskej únie č. 2011/93/EÚ, článok 25, prevádzkuje hotline službu a spolupracuje s medzinárodnou sieťou INHOPE. Od roku 2024 zastrešuje Slovensko aj aktivity v rámci InSAFE. Ochráňma sa podieľa na nastavovaní legislatívy, osvete a vzdelávaní v oblasti CSAM, organizuje kampane, mediálnu komunikáciu a edukačné aktivity pre školy, rodičov a odbornú verejnosť.

Na čom sme pracovali

    Kód projektu: 01/2024

    Trvanie projektu: (8 mesiacov) 01.07.2024 – 31.03.2025

    Riešiteľ: Carbox Slovakia s.r.o. spolu s občianskym združením Ochráňma

    Zdroj financovania: vlastné zdroje

    V spolupráci s OZ Ochráňma a jej výkonným riaditeľom Romanom Abrámom prebiehal spoločný výskumný projekt zameraný na analýzu dát z hotline linky. 

    V období rokov 2023 až 2025 bolo spracovaných 32 527 reportov a 71 982 položiek obsahu. Analýza bola vykonávaná prevažne manuálne. S cieľom zvýšenia efektivity sme začali s výskumom algoritmických riešení na báze umelej inteligencie a strojového učenia.

    Zbierali a hodnotili sa typy a zdroje obsahu, média, forma generovania, mieru nevhodnosti alebo nelegálnosti a kategorizácia prípadov. Výsledky potvrdili:

  • 94 % obsahu tvorili obrázky, 6 % videá,

  • 53 % obsahu bolo používateľsky generovaného,

  • 84 % prípadov zahŕňalo nevhodné zobrazovanie detí,

  • fenomén sharentingu tvoril až 50 % zdrojov zneužitého obsahu,

  • 55 % prípadov pochádzalo z webových stránok a 40 % z image hostingov,

  • väčšina obsahu bola nekomerčná,

  • 90 % obetí boli prepubertálne dievčatá.

Potvrdené prípady boli nahlásené orgánom LEA a ISP a obsah bol odstránený. Popri hotline analýze prebiehal aj výskum zameraný na digitálne zručnosti, rizikové správanie a potreby detí, dospelých a seniorov. 

Využívali sa rozhovory, dotazníky a testovanie existujúcich nástrojov. Výsledky vytvorili základ pre technologické riešenia a potvrdili opodstatnenosť plánovaného vývoja.

Plánovaný výskum a vývoj

    Na základe doterajších zistení bude projekt pokračovať vývojom technologických riešení zameraných na ochranu detí, seniorov a ďalších rizikových skupín. Cieľom je vytvorenie komplexného ekosystému proaktívnej ochrany s využitím AI, biometrie a integrácií do online prostredí.

Plánované smery vývoja:

  • AI platforma na overovanie veku a identity (biometria, eID, autentifikácia),

  • chatbot pre overovanie odkazov, profilov, deepfake, phishing a podozrivého obsahu,

  • nástroje na nahlasovanie a validáciu obsahu občanmi v bezpečnom prostredí,

  • proaktívne riešenia: pluginy do prehliadačov, bezpečný prehliadač, upozornenia na podvodné správy, čísla a e-maily,

  • databáza na automatizované overovanie URL, multimédií a komunikácie,

  • integrácia s orgánmi štátu, ISP a poskytovateľmi digitálnych služieb.

Aktuálne riešenia v Európe sa sústreďujú najmä na reporting a odstraňovanie obsahu. Chýba vrstva prevencie, verifikácie identity a veku, automatizovaného odhaľovania ilegálnych aktivít a bezpečného overovania podozrivých materiálov.

Slovensko má potenciál pôsobiť ako pilotné prostredie pre testovanie a nasadenie takýchto nástrojov v spolupráci s platformami, aplikáciami a štátnymi subjektmi. Vytvorením štandardov môže prispieť k európskemu rámcu v oblasti ochrany detí a kybernetickej bezpečnosti.

Projekt bude nadväzovať na iniciatívy EÚ, ako sú Better Internet for Kids (BIK+), Digital Services Act, eIDAS a pripravované regulácie v oblasti CSAM. Výstupom bude škálovateľné riešenie použiteľné aj v ďalších členských štátoch.