Изкуствен интелект срещу фалшиви новини

По Joint Research Centre (JRC) – Newsletter*

Съвместният изследователски център (JRC) на ЕС обяви, че ще създаде иновативен софтуер, който да открива дали новината е фалшива, или не

В борбата срещу дезинформацията за коронавируса Съвместният изследователския център (JRC) на ЕС обяви своите планове да направи иновативен софтуер с отворен код за извличане на текст на базата на изкуствен интелект, който да е достъпен за хората, проверяващи фактите.
Разработените от Центъра инструменти използват технология за създаване на изкуствен интелект за автоматично идентифициране и наблюдение на дезинформация, от маркиране на фалшиви новини до проследяване на неясни източници. По този начин може да се помогне да се опази истинността на фактите за коронавируса, което е от съществено значение, за да има ефективна реакция от страна на общественото здравеопазване.
Пандемията от коронавирус породи безпрецедентна „инфодемия“. Потокът от информация за вируса е достъпен и споделен онлайн, но голяма част от него е невярна или неточна. Това рискува да създаде объркване и недоверие и в крайна сметка да бъде опасно за здравето на хората.
В отговор на това Европейската комисия и Върховният представител на ЕС по въпросите на външните работи и политиката за сигурност пуснаха съвместно съобщение, в което изложиха основните предизвикателства, възникнали в резултат на настоящата криза, както и конкретни действия, които могат бързо да бъдат предприети за справяне с тях.
Едно такова действие е ангажимент за засилване на подкрепата за проверка на факти и изследователски дейности чрез предоставяне на инструменти за откриване, анализ и разобличаване на дезинформация. Съвместният изследователски център сега работи за това два от ключовите инструменти, с които разполага, да бъдат с отворен код, така че специалистите, борещи се с дезинформацията за коронавируса, да може да ги използват и адаптират.
Повечето фалшиви новини са написани на език, който умишлено да предизвиква силни емоции и страх. Това означава, че експертите могат да създадат софтуерни програми, които да идентифицират модели на езика и бързо да откриват дали нещо може да е фалшива новина, или не.
Класификаторът Misinfo открива фалшиви новини чрез измерване на „кресливостта“ на езика в дадена информация, използвайки алгоритъм за машинно обучение, разработен от JRC.
Не може да има 100% откриване на фалшиви новини, но алгоритъмът за машинно обучение на JRC има около 80% успеваемост. Това е сравнимо с най-добрите постижения в тази област.
Инструментът в момента се използва от Комисията и Европейския парламент и ще бъде предоставен на реномирани организации за проверка на фактите през следващите седмици, така че експертите да могат по-лесно да идентифицират възможни фалшиви новини и да разобличат направените твърдения.
С инструмента за социални слухове Social Rumors могат да се проследяват неверни съобщения и кой ги изпраща. С него може да се търсят уебсайтове, на които не може да се има доверие. Това помага на експертите бързо да получат представа откъде идват фалшивите истории. Софтуерът идентифицира редица акаунти в „Tуитър“, които разпространяват връзки към известен „непроверен“ източник и търсят какви други връзки се публикуват, за да установят какво се разпространява в социалните медии.
Инструментът се използва и от Комисията и от Европейския парламент и ще бъде предоставен на организациитe, които желаят да имат достъп до класификатора Misinfo, така че да могат по-добре да идентифицират нови и новопоявили се дезинформации.
Експертите на JRC имат дългогодишно сътрудничество със Световната здравна организация, което се оказа жизненоважно за справяне с тази пандемия. Този опит ще бъде използван, за да се гарантира успехът на предприетите действия, посочени в съобщението на Комисията. Платформата Epidemics Intelligence from Open Source (EIOS) е в резултат на сътрудничество между СЗО и JRC и е базирана на инструмента за медицинска информация на медийния мониторинг (MEDISYS) на JRC, който събира до 120 000 статии на ден, свързани с пандемията от коронавирус.
Платформата помага за сортирането на тази информация и я предоставя във вид, достъпен за експерти по целия свят, които проследяват пандемията. Той помогна на СЗО да открие първите признаци на огнището на COVID-19 в Ухан в края на декември миналата година и оттогава се използва за проследяване на разпространението на болестта в световен мащаб. Включително може да предвиди кога болестта е на прага ни.
Данните от EIOS също се подават в COVID-19
News Map, която показва десетте най-нови статии, свързани с COVID-19, на оригиналните им езици.
Излагането на гражданите на широкомащабна дезинформация, включително подвеждаща или пряко невярна информация, е голямо предизвикателство за Европа. Комисията работи за прилагане на ясен, всеобхватен и широк набор от действия за справяне с разпространението и въздействието на онлайн дезинформацията в Европа и гарантиране на защитата на европейските ценности и демократични системи.
JRC извършва обширни изследвания на фалшивите новини. От идентифициране на източници на дезинформация до проследяване на тенденциозни съобщения усилията са в посока да се откриват подобни съобщения на ранен етап и да се предоставят на анализаторите инструменти за противодействие на опасните съобщения.
Европейският медиен монитор (EMM), разработен от JRC, обхваща около 300 000 статии на ден от традиционните новинарски сайтове. При такъв обем информация е необходим специфичен софтуер, за да се класифицира информацията по области на политиката и да се групира, за да се намерят най-добрите информации.