OpenAI alapú chatbot és fejlesztése

A DXC Technologynál töltött félév során egy intelligens ügyfélszolgálati chatbot fejlesztésén dolgoztam, amely képes kérdésekre válaszolni, kontextusban maradni, adatokat validálni és összehasonlítani. A projekt során a Python nyelvet választottuk a .NET helyett, mivel könnyebb, rugalmasabb és gyorsabb, valamint a Python nyílt forráskódú könyvtárai és API-k segítségével a fejlesztési idő csökkenthető. Két fő megközelítést vizsgáltam: az Azure Language Studio alapú megoldást és az OpenAI API hívásokat használó chatbotot. A chatbot felépítése több összetevőből áll, amelyek biztosítják a hatékony működést, a biztonságot és a felhasználóbarát élményt. A bot elérhető egy webes felületen, az Azure Bot Service-en keresztül van összekapcsolva a bot magjával, és az App Gateway segítségével biztonságosan érhető el. A bot kulcsfontosságú adatait egy Azure Key Vaultban tároljuk, és az OpenAI Azure Resource segítségével kommunikál a ChatGPT-vel. A Prompt Engineering folyamatának célja az AI modellek hatékony és pontos kommunikációjának elősegítése a felhasználók és a rendszer között. A folyamat során a fejlesztőnek figyelembe kell venniük a modell korlátait, a felhasználói igényeket és a rendelkezésre álló adatokat, hogy hatékony és pontos válaszokat kapjanak. A tesztelés és az iteráció kulcsfontosságú eleme ennek a folyamatnak, amelynek révén a fejlesztők folyamatosan javíthatják a modell teljesítményét és a felhasználói élményt.

Jósvai Máté

2023-07-03

Támogató: DXC Technology