AI-asszisztens fejlesztése üzleti adatelemzéshez

A Clement Weaver Appot eredetileg azért kezdtük fejleszteni, hogy a vállalkozók (és mi magunk) kevesebb időt töltsünk kézi keresgéléssel, ismétlődő adminisztrációval és fölösleges kattintgatással.

Idővel egyre több adatforrást kötöttünk be: Online Számla, banki és PSD2-alapú adatok, NAV M2M-en elérhető adatok és más rendszerek. Ettől a platform egyre hasznosabb lett, mert egyre több üzleti adat került egy helyre. Az M2M-alapú lekérdező használatáról korábban már írtunk külön a NAV M2M-ről szóló posztunkban.

Ahogy nőtt a rendszerben tárolt adatok mennyisége, egyre több olyan adat került be, amit már nem volt elég egyszerűen csak megjeleníteni. Érthető, használható formába is kellett rendezni, hogy a vállalkozások valóban naprakészen lássák, mi történik náluk.

Ugyanakkor egy ilyen platformon nem lehet mindenre egy közös sablont húzni, hiszen nem minden vállalkozás ugyanazokra a kérdésekre kíváncsi. Ami az egyiknél egy fontos nézet vagy szűrő, az a másiknál lehet, hogy teljesen érdektelen. Egy ponton túl nem tűnt jó iránynak, hogy minden újabb igényre még egy külön gombot, exportot vagy funkciót építsünk.

Ezért kezdtünk el egy olyan asszisztensen dolgozni, ami a feltett kérdés vagy üzenet alapján összegyűjti a szükséges adatokat, feldolgozza és számunkra használható formába alakítja őket. Ezzel főként az unalmas adatelőkészítési lépést tudjuk kiváltani, hogy több idő maradjon az adatok elemzésére és a szakmai munkára.

A platformon 2024 októbere óta használunk LLM-alapú megoldásokat, eleinte főként adatkinyerésre és feldolgozásra, például amikor egy külföldi számlából kell kinyerni a könyveléshez szükséges adatokat.

Ahogy a modellek és a hozzájuk kapcsolódó fejlesztői lehetőségek fejlődtek, egyre nagyobb hangsúly került az eszközhasználatra és az ügynökszerű működésre. Ez vezetett oda, hogy mi is elkezdtünk saját, kontrollált eszközöket építeni a platform adataihoz.

Ezek az eszközök kisebb, előre definiált funkciók: van hozzájuk egy rövid leírás, és van mögöttük egy konkrét művelet, amit végre tudnak hajtani. Ilyen lehet egy biztonságos adatlekérdezés, szűrés, összesítés vagy számítás. A modell a kérdés alapján kiválasztja, mire van szükség, és ha kell, több eszközt is egymás után használ.

Azóta többféle modellt, megközelítést és saját eszközt kipróbáltunk, a chat-alapú asszisztens pedig több átdolgozáson ment keresztül.

Az egyik helyzet, amikor csak egy gyors választ keresünk: ilyenkor nem akarunk hosszabb beszélgetést indítani vagy később visszatérni a témához, csak meg akarunk nézni valamit, és menni tovább.

A másik, amikor egy összetettebb kérdést vagy üzleti témát több lépésben szeretnénk végignézni. Ilyenkor a beszélgetés külön szálban marad, később vissza lehet térni hozzá, és nem keveredik össze a gyors, egyszeri kérdésekkel.

Gyors kérdések

Ez a mód akkor jön jól, amikor csak egy konkrét dolgot szeretnénk megnézni, és nincs szükség külön beszélgetésszálra. Ilyen lehet egy számla, egy tétel, egy összeg vagy egy dátum gyors kikeresése.

Például:

"Mikor vettük meg Gabi MacBookját?"

Az alábbi videó egy egyszerűsített demót mutat erről. A demóban külön megjelenítjük a háttérben futó eszközhívásokat is, hogy érthetőbb legyen a folyamat, de a valós felületen a felhasználó ezeket nem látja.

Néhány további példa:

• "Mennyit költöttünk marketingre eddig?"
• "Mi a havi ÁFA-helyzet?"

Beszélgetésszálak

A másik megoldás akkor jó, amikor egy terven, riporton vagy elemzésen szeretnénk hosszabban dolgozni.

Ilyenkor el lehet indulni egy saját szemponttal vagy kéréssel, majd menet közben tovább lehet pontosítani, mit szeretnénk látni. A beszélgetésben megmarad a korábbi kontextus, ezért később vissza lehet térni ugyanoda, folytatni a munkát, vagy egyszerűen megkérni a rendszert, hogy nézze meg az azóta szinkronizált új adatokat is.

Ilyen kérdések lehetnek például:

• "Frissítsd a Q1-es elemzést az azóta beérkezett adatokkal."
• "Volt olyan ügyfelünk, aki korábban rendszeresen rendelt, de most eltűnt?"
• "Volt valami szokatlan a költségeinkben múlt hónapban?"

Ha nincs rá kész eszköz

Az eszközök sokféle feladatot lefednek (lekérdezést, szűrést, összesítést, számítást), de egy szabadon feltett kérdésnél nem lehet minden lehetséges igényre előre külön eszközt építeni.

Ezért a modell mellé egy elkülönített, biztonságos környezetet is adtunk, amelyben saját programkódot írhat és futtathat. Ha egy kérdéshez nincs pontosan ráhangolt eszköz, a modell maga készít tervet: kombinálja a meglévő eszközöket, a köztes lépésekhez kódot ír, újabb eszközt hív, vagy a visszakapott adatokon további számításokat végez, amíg el nem jut a válaszig.

Így a modell nagyobb adatmennyiségen is el tud végezni több lépéses számításokat és összehasonlításokat.

Adatvédelem

Az alábbi alapelveket követjük:

• az API-szolgáltatók nem használják fel az ügyféladatokat modelltanításra
• a modell csak azokhoz az adatokhoz fér hozzá, amelyekhez az adott felhasználó egyébként is hozzáférhetne
• a modell csak az általunk engedélyezett eszközöket használhatja
• ha összetettebb feladatot kell megoldani, az kizárólag az erre szolgáló, korlátozott biztonságos feldolgozó környezetben történhet

Több modell, egy platform

A platformon belül mindig a legújabb, már stabilan használható modellek közül választunk. Jelenleg több modell is elérhető, köztük a Google Gemini, az OpenAI GPT és az Anthropic Claude Opus.

Ugyanazokat az eszközöket tudják használni, de gyorsaságban és megközelítésben eltérhetnek egymástól. Ügyfeleink számára ezek használata a szolgáltatás része, külön felár nélkül.

Összegzés

Az asszisztens segíthet felgyorsítani az adatok előkészítését, így több idő marad a szakmai elemzésre és a tanácsadásra.

A platformon a kód és AI alapú megoldásokat továbbra is fejleszteni fogjuk.

Clement Weaver: Technológia a számok mögött, szakértelem a Te oldaladon.

Ha kérdésed van a platformunkkal, az AI-alapú riportolással vagy a fejlesztési iránnyal kapcsolatban, írj nekünk az info@clementweaver.com címre!

Meglévő ügyfeleinknek a megszokott csatornákon segítünk. Csatlakozz hozzánk – szolgáltatásainkat és árainkat ide kattintva nézd meg!