Компанията Palantir вече продава свои системи за наблюдение на имиграционните и митнически служби в САЩ. Тя обаче се опитва да предложи свои решения и на Пентагона. Компанията представи демо-клип на системата Artificial Intelligence Platform (AIP). Макар основното предназначение на софтуера да е интеграция на големите езикови модели от сорта на GPT-4 или Google BERT в частни мрежи, като пример е демонстрирана възможност именно за военно приложение в съвременни бойни условия.
Във видеото операторът на системата открива силите на противника и иска от изкуствения интелект да изпрати разузнавателни дронове, да подготви варианти за възможни тактически отговори на заплахата и да организира заглушаване на приоритетни радиокомуникации. AIP помага да се оценят силите на противника и техните възможности с помощта на дрон Reaper и предлага възможни начини за реагиране и даже отчет на броя налични леки противотанкови средства във всяко подразделение.
Във видеото се подчертава, че големите езикови модели и алгоритмите трябва строго да се контролират, за да се осигури тяхното “законно и етично използване”. Работата на AIP трябва да бъде базирана на три ключови положения. Първо, AIP трябва “етично и легално” да се използва в рамките на секретна система, способна да събира както секретни, така и открити данни. Второ, именно операторите трябва да определят какво може и какво не може да вижда изкуственият интелект и какви действия той има право да предприема. И трето, в AIP трябва да съществуват съвременни ограничителни механизми за предотвратяване на неправомерни действия от страна на ИИ.
Според Palantir, за целта като ключово звено във веригите за управление трябва да присъства човек, макар в демонстрационното видео операторът просто да следва препоръките на ИИ, като избира действия от набор предложения.
Във видеото обаче не се уточнява какви мерки се предприемат за предотвратяване на “халюцинациите”, характерни за всички съвременни големи езикови модели. При реални военни действия срив в работата на системата може да доведе до катастрофални последствия не само по отношение на противника, но и за експлоатиращите системата.