Riziková komunikace mezi dětmi a dospělými na internetu: observační analýza a návrh doporučení pro vývoj algoritmů predikujících rizikovou komunikaci

Abstract

Child sexual abuse is a burning social issue and has significant psychosocial impact on future life of the child. Domestic as well as global statistics show that this phenomenon has been partly shifting to the Internet, which often provides offenders with greater anonymity and wider reach. One of the preventive measures might be development of technologies using artificial intelligence and machine learning, which can automatically detect risky communication on the Internet, warn the victim and inform the offender about illegality of his behaviour. The presented work focuses on both analysis of offenders' behaviour and a fake victim (actress representing a twelve-year-old girl) in their joint online communication.The objective is to thoroughly investigate the course of such communication and analyse predictors (occurrence of specific types of messages), according to which it could be possible to detect offenders with higher risk of harm to the victim at the beginning of the communication. The analysis is based on communications with real offenders that were obtained in collaboration with creators of the documentary "V síti" (n = 34). They were selected based on the following criteria: communication on Facebook, at least 100 messages in the communication, it is assumed that the offender is an adult...

Sexuální zneužívání dětí je palčivým společenským problémem a má zásadní psychosociální dopad na budoucí život dítěte. Tuzemské i celosvětové statistiky dokládají, že se tento jev částečně přesouvá do prostředí internetu, které pachatelům často poskytuje vyšší anonymitu a širší dosah. Jedním z možných preventivních opatření je vývoj technologií fungujících na principu umělé inteligence a strojového učení, které dokážou rizikovou komunikaci na internetu detekovat, oběť varovat a pachateli poskytnout informační hlášení o nelegálnosti jeho chování. V předkládané práci proto bylo cíleno jednak na observační analýzu chování pachatelů a falešné oběti (herečky představující dvanáctileté dívky) v jejich společné online komunikaci, a to pro účely důkladného prozkoumání průběhu takové komunikace, jednak na analýzu prediktorů (výskyt konkrétních typů výroků), podle kterých lze odhalit pachatele s vyšším rizikem újmy obětijiž v počátku komunikace. Pro analýzu byly využity komunikace s reálnými pachateli získané v rámci spolupráce s tvůrci dokumentu V síti (n = 34) vybrané na základě stanovených kritérií (komunikace z platformy Facebook, kde je alespoň 100 zpráv v komunikaci, přičemž o pachateli se lze domnívat, že je dospělý a je muž, nejde o skupinový chat a komunikace obsahuje sexuálně-implicitní/explicitní...