МЕТОД ІНТЕРПРЕТАЦІЇ РЕЗУЛЬТАТІВ ВИЯВЛЕННЯ КІБЕРЗАЛЯКУВАНЬ У ТЕКСТОВОМУ КОНТЕНТІ ЗАСОБАМИ ШТУЧНОГО ІНТЕЛЕКТУ

Анотація

Запропоновано метод інтерпретації результатів виявлення кіберзалякувань у текстовому контенті засобами штучного інтелекту, що призначений для пояснення рішень нейромережевої моделі щодо визначених у текстовому контенті типів кіберзалякувань. Метод оригінальний тим, що здійснює інтерпретацію результатів для кожного виявленого типу кіберзалякування окремо, що досягається шляхом використання мультилейблового класифікатора нейромережевої архітектури трансформер та інтерпретаційної моделі машинного навчання. Шляхом використання навченої нейромережевої моделі BERT для мультилейблової класифікації типів кіберзалякувань у вхідному текстовому зразку виявляються різні типи кіберзалякувань із вказанням відсотку наявності кожного з них. Згідно розробленого методу, для візуальної інтерпретації результатів виявлення кіберзалякувань використано підхід, який ґрунтується на використанні моделі машинного навчання для локальної інтерпретованості моделей LIME, що дозволяє візуалізувати вплив використання окремих слів на рішення моделі щодо належності тексту до різних типів кіберзалякувань.

Розроблений метод забезпечує три подання інтерпретації результатів виявлення кіберзалякувань: інтерпретація результатів за кольоровою палітрою, інтерпретація результатів за діаграмами локальної важливості слів, інтерпретація результатів за діаграмами загальної важливості слів. Результати експериментів показали, що створений метод забезпечує інтерпретацію рішень щодо результатів нейромережевого виявлення кіберзалякувань на рівні, достатньому для розуміння людиною ознак тексту, які виплинули на прийняття рішень штучним інтелектом щодо виявлення типів кіберзалякувань.