Новий архітектурний підхід до AI LLM-агентів для взаємодії з геопросторовими базами даних.

Анотація

Інтеграція великих мовних моделей (Large Language Models, LLM) з геопросторовими базами даних ускладнена низкою фундаментальних обмежень. По-перше, LLM орієнтовані на обробку тексту і не забезпечують коректного виконання точних геометричних обчислень над просторовими об’єктами (точками, лініями, полігонами). По-друге, обмежений розмір контекстного вікна робить неможливим безпосереднє опрацювання результатів просторових запитів, які можуть містити десятки тисяч і більше об’єктів. У статті запропоновано архітектуру, яка вирішує цю проблемі шляхом розділення ролей: LLM відповідає за інтерпретацію користувацького запиту та планування дій для вирішення проблеми, а спеціалізований бекенд - за виконання геопросторових операцій. Для збереження проміжних результатів використано "зовнішню пам’ять": модель надсилає до бекенду геопросторові запити, але у відповідь отримує лише короткі “дескриптори” (handles). Ці дескриптори є посиланнями на результати запиту у "зовнішній пам'яті", що можуть бути перевикористані в подальших запитах. Таким чином LLM може будувати ланцюжки операцій без переповнення контексту.