Для  системи Gemini NEO DSS BI, яка має працювати в критичних для життєдіяльності людей сферах (блакитна економіка, екологія, логістика дельти Дунаю і моря, енергоефективні технології, реабілітація постраждалих унаслідок війни, історичні дослідження, наукова діяльність, управління громадською організацією, ін.), недоліки AI-генерації перестають бути просто «проблемами тексту», вони стають ризиками прийняття помилкових життєво важливих рішень.

1. Ризик: Фактологічні галюцинації в аналітиці

Вплив на Gemini NEO DSS BI: Система може згенерувати хибний звіт про наявність ресурсів, глибини каналів Дунаю або невірно процитувати статтю закону в Статуті. Для DSS, де на основі даних виділяються кошти або плануються операції, це критично.

• Як мінімізувати: Використання архітектури NEO (Network Ergatic Organism). Замість того, щоб дозволяти AI «вигадувати» відповідь із невідомої зовнішньої пам`яті, ми змушуємо його шукати відповідь лише у моїй власній базі знань (наукові праці з верифікованими результатами, офіційні документи, реальні дані моніторингу). У NEO, тобто у мережевому ергатичному (людино-машинному) організмі приймає рішення той, хто несе відповідальність за їх виконання, тобто людина, користувач Gemini NEO DSS BI .

2. Ризик: «Чорна скринька» та відсутність верифікації

Вплив на DSS BI: Класичні DSS перших поколінь базувалися на чітких математичних моделях. Сучасні Нейромережеві та інші AI-моделі часто не можуть пояснити, чому вони запропонували саме таке рішення.

• Як мінімізувати: Впровадження принципу Explainable AI (XAI). Кожна рекомендація системи повинна супроводжуватися посиланням на конкретне джерело чи цифру в BI-панелі (LLC Gemini). Рішення не приймається автоматично — воно подається як “Option A” з переліком аргументів. Explainable AI (Пояснимий ШІ) – це набір процесів і методів, що дозволяє користувачам розуміти, довіряти та інтерпретувати рішення та результати, що генеруються алгоритмами машинного навчання/ Він виходить за рамки моделей «чорної скриньки», забезпечуючи прозорість, дозволяючи налагоджувати штучний інтелект, перевіряти його на упередженість та використовувати в регульованих галузях, таких як охорона здоров’я та фінанси.

3. Ризик: Контекстуальна сліпота (втрата нитки)

Вплив на Gemini NEO DSS BI: При управлінні складним проєктом, для прикладу, як знаходження у багатоетапному процес узгодження рішень у певній сфері ділової діяльності з розгалуженнями, система іноді «забуває» про обмеження, встановлені на початку діалогу. Наприклад,  система ШІ забуває про статус інвалідності 2-ї групи та пов’язані з цим пільги, забуває нагадувати вживати певні ліки у певний час.

• Як мінімізувати: Використання Knowledge Graphs (Графів знань). Ми створюємо структурну карту нашого проєкту, де зафіксовані всі сталі зв’язки: “Експерт 1 — Голова”, “Експерт 2 — Виконавчий директор”, “Статус — Неприбуткова організація”. AI звертається до цього графу як до постійної карти пам’яті.

---

Порівняння методів захисту NEO від помилок AI

Тип недоліку AI	Вплив на DSS	Технологічне рішення для мінімізації
Галюцинації	Хибні дані у звітах	RAG: Тільки верифіковані джерела
Непередбачуваність	Ризик помилкового наказу	Human-in-the-loop: Людина підписує рішення
Застарілі дані	Неактуальні поради	Real-time API: Зв’язок з базами даних (напр. курс валют, реєстри)
Логічні збої	Суперечливі плани	Multi-agent system: Один AI пропонує, інший — критикує

---

Наша стратегічна перевага:

Фахівець із Decision Support Systems на основі Business Intelligence та Knowledge Management Systems може побудувати систему, де AI виконує роль «швидкого обчислювача», а логічні фільтри (на основі наших простих алгоритмів 2008 року та сучасних розробок) виступають «запобіжниками». Для прикладу, людина-експерт чи краще їх група підтверджують необхідність чи доцільність виконання порад AI.

Як можемо це впровадити?

Почати з малого: дослідити ризики помилкових AI-рішень при формуванні завдань громадської організації способи їх мінімізації та опублікувати це на сайті dssbi.org, на цій основі розробити «Методологію верифікації». Це покаже, що наша система — не просто чат-бот, а науково обґрунтована платформа з багаторівневим контролем помилок.

Висновки

Помиляються всі – і люди і АІ, але у DSS BI Consult+ встановлено, що взаємна генерація, взаємний контроль, взаємне доповнення людини і AI (навіть на основі LLM — Large Language Model) дає кращий результат.

Викладена тут інформація є початковим прототипом реальних ризиків помилкових AI-рішень при формуванні завдань громадської організації та способів їх мінімізації