ВИЯВЛЕННЯ ГАЛЮЦИНАЦІЙ ШТУЧНОГО ІНТЕЛЕКТУ В АНАЛІЗІ АНАЛІТИЧНИХ НАБОРІВ ДАНИХ СИСТЕМ ПРОГРАМНОГО ЗАБЕЗПЕЧЕННЯ

Анотація

Зростання використання генеративного ШІ в системах програмного забезпечення, особливо для аналізу даних, призвело як до позитивного прогресу, так і до негативних наслідків. Такі можливості, як отримання інсайтів, прогнозування та моделювання процесів прийняття рішень, є гарними прикладами того, як автоматизація підвищує інтелектуальність та структурованість процесу аналізу даних. Проте, стабільне використання даних моделей несе в собі одну з пасток - ризики галюцинацій ШІ. У цьому випадку галюцинації стосуються методів генеративного ШІ, коли результати, отримані ШІ, не корелюють з наявними даними, а навпаки, містять різноманітні вигадані, неіснуючі деталі.

Для боротьби з цією проблемою надзвичайно важливо виявляти такі аномалії в аналітичних наборах даних в системах програмного забезпечення, щоб гарантувати достовірність інсайтів, що надаються інтерактивними підходами ШІ. Ця робота зосереджена на проблемах виявлення галюцинацій генеративного ШІ в аналітичних наборах даних та їхній класифікації. Дані дослідження є наджзвичайно важливими в аналітичних системах, оскільки якщо ігнорувати галюцинаціїї ШІ, то вони можуть поширюватися і призводити до неправильних майбутніх рішень в аналізі.