ШІ для бухгалтера, економіста та фінансиста: від 0 до результату

Додаткові матеріали

Презентація

---

Текстове розшифрування відео

Сьогодні буде розглянуто, як правильно написати запит штучному інтелекту для отримання максимально коректної відповіді. Якість відповіді залежить від того, як ви спілкуєтеся зі своїм помічником. 90% правильної відповіді криється в запиті.

Запит, який у мові штучного інтелекту називається "промт", – це інструкція, яку ви надаєте мовній моделі для виконання певного завдання. Усі розумні мовні моделі аналізують слова та їх контекст, щоб генерувати релевантну відповідь. Чим релевантніше поставлене питання, тим чіткішою буде відповідь на інструкцію, яку ви дали штучному інтелекту.

Стандартні помилки при постановці завдання штучному інтелекту:

• Надто загальні формулювання: Наприклад, "дай відповідь на питання статті такої-то". У різних кодексах (кримінальному, фінансовому) може бути різний формат і текст, що призводить до різного контексту і, відповідно, до різних відповідей, а також до "галюцинацій".
• Відсутність контексту: "Напиши мені листа". Модель напише листа, але він може бути про різне. Чим більше контексту ви надасте ("Напиши мені лист про кохання", "Напиши мені лист до податкової"), тим краще він його напише. Кожен токен формується окремо, і чим більше контексту, тим чіткіший підбір ланцюгів і зменшення ареалу інформації, яку він може використовувати.
• Двозначність: Чим чіткіша інструкція, тим кращий результат. "Дай мені таблицю", "дай мені презентацію", "дай мені формулювання", "дай мені одну цифру". Чим точніша інструкція, тим бездоганніше вона буде виконана. Часто буває, коли просимо сумарну відповідь, наприклад, порахувати певну суму, а штучний інтелект розписує це на багато сторінок тексту, тому що в інструкції не було вказано, що потрібно дати конкретну відповідь.
• Галюцинації та вигадування нових фактів: За допомогою інструкцій можна боротися з галюцинаціями. Банальний напис "не вигадуй інформації, про яку ти не знаєш" або "скажи мені і задай уточнюючі питання, якщо ти не знаєш відповіді, якщо тобі недостатньо контексту" вже допоможе мовній моделі та вам отримати найкращий результат.

Буде розглянуто декілька фреймворків правил написання ефективного промта. Один із таких фреймворків називається CLEAR, який складається з:

• C (Context): Контекст. Необхідно надати контекст штучному інтелекту, щоб він його розумів.
• L (Logic): Логіка та чітке визначення завдання, що ми хочемо зробити.
• E (Example): Приклади. Якщо можна навести приклади бажаного результату, це буде дуже ефективно.
• A (Action): Дія. Слід чітко вказати конкретні кроки, які він повинен зробити для отримання очікуваного результату.
• R (Result): Результат. Вказати бажаний формат результату.

Приклад: "Ти фінансовий аналітик, проаналізуй цю Excel таблицю або якийсь звіт. На основі тренду у витратах за останні шість місяців. Формат відповіді: таблиця з підсумками цієї інформації". Таким чином, залучивши всі елементи даного фреймворку, можна створити лаконічний і простий промт. З першого разу такі промти досить складно писати, оскільки продумується кожен елемент тексту, але згодом звикаєш писати ці промти автоматично.

Досить ефективною функцією є можливість надиктовувати промт. Коли розмовляємо голосом, людський мозок дає більше контексту, і ми надаємо ширшу інформацію. Таким чином, одним із лайфхаків є надиктовування тексту для штучного інтелекту, що дозволяє отримати більше контексту та кращий результат.

Типи промтів:

• Інформаційний запит: Просто запитуємо щось пояснити, розповісти, дати визначення, знайти інформацію. Наприклад, "Ти фінансовий аналітик, поясни мені, як будується PNL. Я керівник". При інформаційних запитах потрібно вказати, для якого рівня слухача або отримувача інформації пишеться відповідь. Таким чином, можна отримати якісніший результат з підбором формулювань, які будуть корисні.
• Генеративні запити: Скласти лист, зробити зображення, підготувати презентацію – усе, що передбачає генерацію нового контенту.
• Аналітичні запити: Проаналізувати, побудувати, зробити висновки, зробити діаграми.
• Перевірка даних: Можна дати штучному інтелекту запит: "Візьми інформацію з цього документа або з сайту і перевір її з чимось". Наприклад, "У нас є якийсь звіт, перевір його законом або перевір нашу гіпотезу на підставі цього документа, або проаналізуй інформацію, яка є у нас в інструкції, і дай чіткі кроки рішення". Усе це можна робити за допомогою обробки великих обсягів даних у штучному інтелекті.

Ще один якісний фреймворк, залежно від зручності, – це PROMPT. Він побудований приблизно за тією ж позицією. Це абревіатура, яка складається з:

• P (Purpose): Яку ціль ми переслідуємо.
• R (Role): Яку роль виконує штучний інтелект.
• O (Output): Який нам потрібен результат.
• M (Method): Який підхід або метод ми очікуємо.
• P (Prompt): Які є обмеження.
• T (Tone): Який стиль відповіді ми хочемо отримати.

Приклад: "Ти аудитор, проаналізуй фінансовий звіт за 2024 рік і видай основні результати. Результат: список пунктів, стиль діловий". У цьому прикладі використано всі обмеження та всі шматочки промта.

Обмеження (prompts) можна використовувати для боротьби з галюцинаціями. Це може бути "не бреши", "не вигадуй інформації", "додай мені додаткові запитання". Це все може бути як додатковий елемент контролю, верифікації інструкції, яку ми надаємо.

Як підвищити точність результатів:

• Побудова технічних промтів: Можна створити промт для генерації промтів. Наприклад, написати свій запит і сказати: "Перепиши мені його, будь ласка, так, щоб він був максимально ефективний. Якщо тобі недостатньо інформації, доповни його".
• Розбиття завдання на маленькі шматочки: Через те, що моделі оперують певним лінгвістичним і контекстним ядром, вони можуть щось забувати. Якщо розбивати завдання покроково, можна отримувати чіткіші результати з конкретними завданнями. Наприклад, якщо беремо звіт: перший крок – прочитай, другий – проаналізуй, третій – зроби висновки, а не писати все це в один запит: "Прочитай, проаналізуй і зроби висновки". Платні моделі вже отримують достатній обсяг даних, але для безкоштовних версій це лайфхак, як досягати якіснішого результату з урахуванням невеликого контекстного набору даних.
• Обмеження обсягів: Завжди можна вказати, що відповідь має бути не більше певної кількості слів. Чим менше слів, менше токенів, тим менший обсяг списання з рахунку. Це також лайфхак, який може допомогти саме для безкоштовних версій.

Ефективні промти для бухгалтерії або фінансів:

• Аналіз транзакцій: "Проаналізуй список транзакцій за останні квартали. Визнач основні категорії витрат".
• Підготовка текстів до клієнтів.
• Автоматична генерація коментарів до звітів.
• Виявлення аномалій у даних.

У платних версіях особистого кабінету є можливість накопичувати базовий контекст. Якщо в налаштуваннях особистого кабінету мовної моделі вказано, хто ви, можна це не вказувати в промті. Тоді не потрібно казати, що ви фінансовий керівник або бухгалтер, а відразу вказувати роль, оскільки це зашито на системному рівні.

Підготовлено шпаргалку – технічний промт, який можна використовувати як технологію для генерації правильних промтів. У майбутньому буде окреме заняття про формування асистентів. За допомогою цього промта та вміння формувати асистентів можна буде створити собі асистентів, які генеруватимуть ефективні промти.

Промти – це навичка, яка набувається технологічно. Протягом усього курсу рекомендується пробувати, експериментувати. Якісний промт – це якісний результат. Чим більше ви будете їх писати, отримувати певний результат і розуміти, як цим користуватися, тим швидше виробиться навичка писати ці промти максимально лаконічно та зручно. Рекомендується спробувати сформувати перші враження від написання промтів за обговореними фреймворками.