АИ

Техничка индустрија се позива на бољу заштиту од злостављања деце на мрежи

Техничка индустрија се позива на бољу заштиту од злостављања деце на мрежи


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Према истраживању, до милијарду деце старости од 2 до 17 година доживело је неки облик злостављања у 2014. Иако је технолошки напредак донео многе користи, процват Интернета, платформи за друштвене мреже и мобилно рачунарство такође је створио канале кроз која се злоупотреба деце и грабежљива дела над децом могу догодити.

Владе пет очију - Аустралија, Канада, Нови Зеланд, Уједињено Краљевство и САД - воде налогу да приморају заинтересоване стране технолошке индустрије да повећају учешће и појачају борбу против насилних радњи и пракси на мрежи. На конференцији за новинаре у америчком Министарству правде, група је представила једанаест добровољних принципа који помажу у спречавању и ублажавању сексуалне експлоатације и злостављања деце на мрежи. Представници технолошких гиганата Фацебоок, Гоогле и Мицрософт присуствовали су догађају.

Срећом, проблем је и у погледу на одређене иницијативе у технолошком сектору.

Л1гхт је један од ретких подухвата усмерених на заштиту безбедности деце на мрежи. Позициониран као компанија за токсичност, Л1гхт је развијен као платформа која може тачно да идентификује и предвиди штетно понашање и садржај на мрежи, користећи вештачку интелигенцију (АИ). Ова способност може помоћи мрежним платформама да брзо предузму мере против насилних корисника и садржаја пре него што нанесу штету младим корисницима Интернета.

Борба против злостављања на мрежи

Интернет платформе постале су средство за криминалце и предаторе да конзумирају и деле садржај који укључује злостављану децу. А. Нев Иорк Тимес извештај утврдио да 45 милиона интернетске фотографије и видео записе о злостављању деце пријавиле су технолошке компаније у 2018. Исти извештај указује да је Фацебоок-ов екосистем коришћен у 12 милиона случајева која је укључивала такве слике.

Већина платформи има успостављене мере за спречавање ширења штетног садржаја. Садржај се обично може подвргнути прегледу, модерирању и филтрирању. Фацебоок и ИоуТубе већ имају успостављене механизме за уклањање и означавање насилног садржаја и спречавање њиховог поновног учитавања. Фацебоок има наменске агенте за модерирање који прегледају пријављени и означени садржај. Нажалост, празнине у овим мерама и даље омогућавају ширење штетног садржаја, посебно новог садржаја који деле технолошки паметни прекршиоци.

Међу принципе који се промовишу напорима укључују: темељни преглед сигурносних процеса, разумевање природе злостављања деце на мрежи, идентификовање подручја високог ризика на платформама, идентификовање празнина у постојећим мерама, улагање у иновативне алате и решења и одговарање на нове претње.

Како АИ може помоћи

Изгледа случајно да се, како се позивају на боља решења, појављују и напори који имају за циљ да их обезбеде. Платформа Л1гхт спремна је да промени игру у борби против штетног садржаја и експлоатације деце. Компанија има заштићене алгоритме који су у могућности да анализирају и означавају штетни текст, слике, аудио и видео садржај у реалном времену, који се могу применити и интегрисати са платформама друштвених медија, апликацијама за комуникацију и размену порука и видео играма на мрежи. То би помогло да се додатно појачају могућности филтрирања и модерирања, тако да платформа може одмах да предузме мере против таквих кршења.

Његова АИ такође може континуирано учити и прилагођавати се методама које починиоци мењају. На пример, уобичајено филтрирање текста засновано на речнику може лако спречити познате увредљиве речи или изразе, али их је могуће заобићи коришћењем кода или правописа.

Л1гхт је недавно добио 15 милиона долара финансирања за семе како би убрзао његов развој.

Заједнички напор

Оно што је заиста потребно у борби против ове и даље растуће кризе јесте заједнички напор свих заинтересованих страна. Успостављање глобалних напора, као што је ВеПРОТЕЦТ Глобал Аллианце, коју чине владе, агенције за спровођење закона, приватне институције и непрофитне организације којима је циљ да усвоје принципе и унапреде борбу против злостављања деце, корак је у правом смеру .

Технички гиганти и њихове масивне мрежне платформе сносе велик део терета успостављањем мера које ће отежати пролазак штетног садржаја на њихове платформе. Јаче везе између приватних институција и агенција за спровођење закона такође би требале да премосте јаз између идентификовања починилаца и жртава и одговарајућег поступања са њима. Појава нових решења која су посебно усмерена на решавање проблема свакако је добродошао развој догађаја.


Погледајте видео: Zaštita dece od nasilja, Bačka Palanka (Децембар 2022).