ВИКОРИСТАННЯ ВЕЛИКИХ МОВНИХ МОДЕЛЕЙ ДЛЯ ГЕНЕРУВАННЯ ПРОГРАМНОГО КОДУ НА ОСНОВІ ДОМЕННО-СПЕЦИФІЧНИХ МОВ - БІДОЧКО, АНДРІЙ (Herald of Khmelnytskyi National University. Technical sciences, 2023)
У цьому дослідженні ми  розглянемо потенціал великих мовних моделей (LLM), зокрема моделі GPT-4, у створенні програмного забезпечення на основі предметно-орієнтованих мов (DSL). Ми оцінимо ефективність  великих мовних моделей і обговорюємо наслідки наших висновків для розробки програмного забезпечення, за допомогою автоматизованої генерації коду та штучного інтелекту.Швидке поширення технологій і методів штучного інтелекту (AI) призводить до трансформаційних змін у багатьох сферах. Однією з важливих сфер інтересів є потенційне використання великих мовних моделей (LLM) для автоматизації генерації програмного коду, особливо з використанням предметно-орієнтованих мов (DSL). У цьому документі представлено поглиблене дослідження можливостей моделі GPT-4 для інтерпретації та генерації програмного коду. Спочатку ми опишемо процес навчання моделі на величезному корпусі програмного коду, розробленого в різних DSL.Потім ми оцінюємо його продуктивність за допомогою ряду всебічних тестів, призначених для оцінки його здатності генерувати точний, ефективний і придатний для обслуговування код. Оцінювальні метрики включають точність генерації коду, ефективність виконання та можливість редагування згенерованого коду. Попередні результати вказують на те, що модель може створювати код зі ступенем точності й ефективності, який можна порівняти з людьми-програмістами, і навіть перевершує код, написаний людиною, у зручності обслуговування завдяки узгодженому стилю кодування. Однак модель демонструє обмеження, коли стикається зі складними сценаріями та менш поширеними DSL. Ці висновки, хоч і багатообіцяючі, підкреслюють необхідність подальших досліджень для підвищення надійності та універсальності таких моделей, особливо в сфері складних завдань розробки програмного забезпечення. Наслідки цих результатів поширюються на галузі програмної інженерії, автоматизованої генерації коду та штучного інтелекту, потенційно революціонізуючи поточну парадигму розробки програмного забезпечення та відкриваючи шлях для нових програм.
Keywords: великі мовні моделі; генерація програмного коду; предметно-орієнтовані мови; GPT-4; штучний інтелект; обробка природної мови; машинне навчання