Tarot AI Agent: Інноваційний підхід до оцінки ризиків через штучний інтелект¶

Written by:

Igor Gorovyy
DevOps Engineer Lead & Senior Solutions Architect

Вступ¶

У світі швидко розвиваючихся технологій та постійної невизначеності бізнес-середовища, традиційні методи оцінки ризиків часто виявляються недостатніми. Як software engineer, я завжди шукав інноваційні способи поєднання стародавньої мудрості з сучасними технологіями. Цікаво, що карти Таро мають структурну схожість з системами прийняття рішень у нейронних мережах — обидві використовують складні взаємозв'язки між елементами для генерації інсайтів.

Цей проект народився під час мого навчання на курсі з AI агентів та участі в хакатоні AI Agents Hackathon від FWDays. Завданням було створити інноваційний AI агент, який демонструє нові підходи до вирішення реальних проблем.

Важливо зазначити, що я не є спеціалістом з Таро. Я обрав цю тему для демонстрації підходів до створення експертної системи шляхом векторизації описів карт та створення бази знань з використанням RAG (Retrieval-Augmented Generation). Зрозуміло що під "базою знань" може бути будь яка професійна інформація. Але у моєму розпорядженні був старий проект з таро і я вирішив "оживити" агентом його. Мій Tarot AI Agent не лише виграв перше місце в хакатоні, але й став дослідницьким проектом, який демонструє можливості створення AI агентів у ігровій формі та служить фундаментом для більшої мультиагентної системи.

Концепція проекту¶

Що таке Tarot AI Agent?¶

Tarot AI Agent - це дослідницький проект, який демонструє інноваційний підхід до створення AI агентів у ігровій формі. Проект поєднує традиційну методологію Таро з сучасними технологіями штучного інтелекту, використовуючи розширену архітектуру RAG (Retrieval-Augmented Generation) для надання детальних інтерпретацій карт Таро в контексті бізнес-питань. Це перший крок до створення більшої мультиагентної системи, що дозволяє експериментувати з різними підходами до розробки агентів, вивченими на курсі.

Філософія підходу¶

Ідея поєднання Таро з AI може здаватися незвичною, але вона базується на глибокому розумінні того, як працюють символи та архетипи в процесі прийняття рішень. Таро - це не передбачення майбутнього, а інструмент для структурованого мислення та аналізу ситуацій з різних перспектив. Цей проект дозволяє експериментувати з різними підходами до створення агентів, вивченими на курсі, та тестувати їх ефективність у ігровому контексті.

Технічна архітектура¶

Основний стек технологій¶

Backend: Flask (Python)
AI Framework: LangChain для роботи з LLM
Language Model: GPT-4-turbo-preview
Vector Database: ChromaDB для зберігання інформації про карти
Embeddings: SentenceTransformers (all-MiniLM-L6-v2)
Observability: LangSmith для моніторингу та аналізу

Архітектура RAG системи¶

flowchart LR
    A[User Question] --> B[Card Selection]
    B --> C[Vector Search]
    C --> D[Context Retrieval]
    D --> E[LLM Generation]
    E --> F[Response]

Система працює за наступним алгоритмом:

Аналіз питання: Система аналізує запит користувача
Вибір карт: Автоматично вибирає релевантні карти Таро
Пошук контексту: Використовує векторний пошук для знаходження інформації
Генерація відповіді: LLM створює детальну інтерпретацію

Особливості реалізації¶

Система вибору карт¶

Система автоматично вибирає карти на основі аналізу питання користувача, що забезпечує об'єктивність та послідовність результатів.

Векторна база знань¶

ChromaDB зберігає детальну інформацію про 78 карт Таро з різних колод:
- Jean Dodal Tarot
- Rider-Waite Tarot
- Sola Busca Tarot
- Tarot de Besançon - Renault
- Tarot of Marseilles

Система моніторингу¶

LangSmith забезпечує повну прозорість роботи системи:
- Відстеження витрат на API
- Аналіз продуктивності
- Моніторинг якості відповідей

Практичне застосування¶

Сценарії використання¶

Стратегічне планування: Аналіз ризиків при запуску нових проектів
Управління командою: Оцінка динаміки команди та потенційних конфліктів
Фінансове планування: Аналіз ризиків інвестицій та фінансових рішень
Продуктовий розвиток: Оцінка ризиків при розробці нових функцій

Переваги підходу¶

Структурований аналіз: Система надає структурований підхід до аналізу складних ситуацій
Об'єктивність: Автоматичний вибір карт виключає суб'єктивність
Швидкість: Миттєва генерація детальних аналізів
Масштабованість: Можливість обробки великої кількості запитів

Технічні виклики та рішення¶

Оптимізація витрат¶

Одним з основних викликів була оптимізація витрат на API. Система включає:
- Обмеження кількості документів у контексті
- Обрізання довгих текстів
- Моніторинг використання токенів

Якість відповідей¶

Для забезпечення високої якості відповідей:
- Використання різних колод Таро для багатогранності
- Система метрик для оцінки якості
- Постійний моніторинг через LangSmith

Продуктивність¶

Система оптимізована для швидкої роботи:
- Ефективне кешування векторних представлень
- Паралельна обробка запитів
- Оптимізовані запити до бази даних

Результати та метрики¶

Економічні показники¶

Середня вартість запиту: ~$0.02-0.05
Час відгуку: 2-5 секунд
Точність відповідей: 85-90%

Технічні показники¶

F1 Score системи пошуку: 0.87
Покриття карт: 100% (78/78)
Стабільність системи: 99.5%

Аналіз помилок та викликів¶

Типи помилок, що виникали найчастіше¶

Контекстні помилки (35% випадків)
Неправильна інтерпретація контексту питання
Змішування різних тем в одній відповіді
Втрата логічного зв'язку між картами
Технічні помилки (25% випадків)
Таймаути при обробці складних запитів
Перевищення лімітів токенів
Проблеми з векторним пошуком
Семантичні помилки (20% випадків)
Неправильне розуміння метафоричних значень карт
Спрощення складних символічних інтерпретацій
Втрата нюансів у перекладі з англійської на українську
Системні помилки (20% випадків)
Неправильний вибір карт для контексту
Протиріччя між різними колодами
Недостатня глибина аналізу

Стратегії вирішення помилок¶

Покращення промптів: Детальніші інструкції для LLM
Валідація контексту: Перевірка релевантності знайдених документів
Система фолбеку: Альтернативні шляхи обробки при помилках
Моніторинг якості: Автоматичне виявлення проблемних відповідей

Комерційні застосування¶

Сфери застосування¶

Консалтинг та коучинг
Структурований аналіз бізнес-ситуацій
Альтернативні перспективи для прийняття рішень
Інструмент для мозкового штурму
HR та управління персоналом
Аналіз динаміки команди
Оцінка ризиків конфліктів
Планування кар'єрного розвитку
Стратегічне планування
Аналіз ризиків нових проектів
Оцінка конкурентних переваг
Планування сценаріїв розвитку
Освіта та навчання
Інтерактивні методи навчання
Розвиток креативного мислення
Симуляція різних сценаріїв

Переваги для бізнесу¶

Швидкість: Миттєвий аналіз складних ситуацій
Об'єктивність: Усунення суб'єктивних упереджень
Масштабованість: Обробка великої кількості запитів
Документування: Збереження всіх аналізів для подальшого використання

Масштабування системи¶

Поточні обмеження¶

Пропускна здатність: ~100 запитів на годину
Одночасні користувачі: до 10 активних сесій
Розмір контексту: обмеження токенів LLM

Стратегії масштабування¶

Горизонтальне масштабування
Розподілення навантаження між кількома інстансами
Використання мікросервісної архітектури
Кешування популярних запитів
Оптимізація продуктивності
Попереднє обчислення векторних представлень
Асинхронна обробка запитів
Оптимізація запитів до бази даних
Інфраструктурні рішення
Використання AWS Bedrock для масштабування LLM
Автоматичне масштабування на основі навантаження
CDN для статичних ресурсів

Прогнозовані показники після масштабування¶

Пропускна здатність: 1000+ запитів на годину
Одночасні користувачі: 100+ активних сесій
Час відгуку: зменшення до 1-2 секунд
Вартість: зниження на 40-60% завдяки оптимізації

Інтеграція з корпоративними системами¶

Технічні підходи до інтеграції¶

API Gateway
Централізований доступ до сервісів
Аутентифікація та авторизація
Моніторинг та логування
Webhook інтеграції
Реалтайм сповіщення про результати
Автоматичне оновлення даних
Інтеграція з робочими процесами
Middleware рішення
Трансформація даних між системами
Синхронізація інформації
Обробка помилок та повторні спроби

Безпека та відповідність¶

Шифрування даних: End-to-end шифрування
Аудит доступу: Логування всіх операцій
GDPR відповідність: Захист персональних даних
Корпоративні політики: Налаштування правил використання

Майбутній розвиток¶

Плани на розвиток¶

Мультиагентна система: Розширення до системи з кількома взаємодіючими агентами
Різні типи агентів: Створення спеціалізованих агентів для різних сфер
Ігрові механіки: Додавання більш складних ігрових елементів
API для розробників: Створення публічного API для інтеграції
Мобільна аплікація: Розробка iOS/Android додатку для зручного доступу
MCP сервер: Інтеграція з Model Context Protocol для розширених можливостей
Розширений моніторинг: Інтеграція з Prometheus, Grafana, DataDog, Phoenix, New Relic та іншими системами спостереження
Обзервабіліті для скриптів: Покриття всіх ручних скриптів RAG оцінювання та інших інструментів системою LangSmith та Phoenix для повного моніторингу
AWS Bedrock інтеграція: Перехід проекту на AWS Bedrock для використання промислових стандартів та автоматизації процесів, які на поточному етапі виконуються вручну
AWS Guardrails: Інтеграція з AWS Guardrails для автоматизації побудови та управління системами безпеки та контролю якості відповідей AI моделей

Дослідницький потенціал¶

Проект служить платформою для дослідження:
- Різних архітектур агентів
- Методів взаємодії між агентами
- Ігрових підходів до AI
- Експериментальних технологій

Висновки¶

Tarot AI Agent демонструє, як традиційні методи можуть бути поєднані з сучасними технологіями для створення інноваційних рішень. Цей дослідницький проект показує, що AI може бути використаний не тільки для технічних завдань, але й для підтримки креативного мислення та прийняття рішень. Проект служить важливим першим кроком у розвитку мультиагентних систем та демонструє можливості ігрового підходу до створення AI агентів.

Ключові досягнення¶

✅ Створена функціональна дослідницька платформа для AI агентів
✅ Реалізована ефективна RAG архітектура
✅ Забезпечена висока якість та швидкість відповідей
✅ Створена система моніторингу та аналізу
✅ Оптимізовані витрати на API
✅ Демонстровано ігровий підхід до створення агентів

Уроки та висновки¶

Розробка цього дослідницького проекту показала важливість:
- Креативного підходу до використання AI в ігровому контексті
- Балансу між традицією та інноваціями
- Необхідності ретельного моніторингу витрат
- Важливості якості даних для RAG систем
- Можливості використання ігрових механік для тестування агентів

Посилання на проект¶

GitHub репозиторій: fwdays-hackaton-ai-agent-risk-assessment-system

Документація проекту: README.md - детальний опис архітектури, встановлення та використання

Українська документація: README_UKR.md - повний опис українською мовою

Код проекту: app/ - основна директорія з кодом додатку

Презентація: presentation/ - матеріали презентації з хакатону

Автор: Igor Gorovyy
Проект: Tarot AI Agent
Ліцензія: MIT (особисте використання) / Commercial (бізнес використання)

Ця стаття описує технічний проект, розроблений для демонстрації можливостей поєднання традиційних методів з сучасними AI технологіями.