Правительственные учреждения используют инструменты искусственного интеллекта и большие языковые модели

Технологии искусственного интеллекта (ИИ) и машинного обучения распространяются на правительственные приложения, поскольку ведомства начинают использовать мощные ресурсы для выполнения своих задач.

Хотя большие языковые модели (LLM), такие как ChatGPT, OpenAI и Meta, могут быть ценными, представители агентств заявили, что не могут использовать эти модели в большом масштабе из-за проблем с безопасностью.

«Модели настолько велики, что размещение этих моделей в нашей безопасной среде, вероятно, будет непомерно дорогостоящим, а также компания не предоставила нам доступ к самим моделям», — сказал подполковник Джозеф Чапа, начальник отдела данных Департамента ВВС США. и офицер по искусственному интеллекту во время саммита ATARC по искусственному интеллекту в среду.

Чапа сказал, что большие языковые модели в настоящее время не сертифицированы для уровня данных агентств, поэтому существует несколько ограничений.

«Все, что мы делаем с системами, должно быть совершенно несекретным и неконфиденциальным», — сказал Чапа.

Но Чапа сказал, что агентство надеется, что более мелкие модели с открытым исходным кодом предоставят инструменты, безопасные для секретных данных.

Тем временем агентства также работают внутри страны над решением проблем безопасности и созданием безопасной среды для данных. Например, в прошлом году Береговая охрана США создала отдел климатических данных, который занимается созданием новой инфраструктуры для запуска приложений искусственного интеллекта и LLM.

«Что мне сейчас кажется самым интересным, так это то, что мы немного опаздываем к игре. Но нам также не пришлось усваивать все уроки, которые усвоили первые пользователи», — сказал Джонатан Уайт, начальник отдела облачных вычислений и данных Береговой охраны, во время саммита.

Уайт сказал, что большие языковые модели — это лишь кусок пирога ИИ, и агентство чрезвычайно «любопытно к ИИ», поскольку понимает, насколько изобретательной будет эта технология.

«При ограниченной рабочей силе чрезвычайно сложно постоянно размещать людей в нужных местах, к тому же у нас есть много политик, положений, правил и всего остального, что связано с этими миссиями. Разве не было бы здорово, если бы у нас был инструмент, который мог бы дать ответ на ваш вопрос, касающийся этой политики и правил?» — пояснил Уайт. «Если они находятся в середине проверки или в середине предупреждения [и] им нужно задать вопрос, разве не было бы здорово иметь цифрового помощника, который предоставил бы информацию, необходимую им для проведения этой проверки?»

Однако эксперты заявили, что не могут полностью полагаться на технологию, поскольку во избежание ошибок в процессе должен быть человек.

«Это ничем не отличается от того, как мы ведем бизнес в целом. Когда мы создаем новый проект, нам нужны рецензенты. Когда вы проводите какие-либо исследования, у вас есть рецензенты», — сказал Дэвид На, руководитель NASA Cloud AIML Foundations во время саммита. «Нам нужны рецензенты для контента, который вы создаете. этими большими языковыми моделями».

Поскольку правительственные учреждения находят ценность в больших языковых моделях, Чапа сказал, что они осознают, что проблемы могут сохраняться. «Я знаю, что люди используют эти модели самостоятельно — в какой-то момент будут какие-то сбои или какие-то утечки», — отметил он.

Но Чапа сказал, что лучше всего использовать модели генерации текста, когда основная информация уже известна, поэтому факты легко проверить.

«У аналитиков будет соблазн использовать этот инструмент для получения информации о мире. И я не говорю, что нам не следует этого делать. Я говорю, что мы должны признать, что если мы собираемся использовать эти инструменты в этом качестве, мы должны построить поверх этого институциональные уровни проверки фактов», — сказал Чапа.

Несмотря на проблемы, которые могут создать большие языковые модели, представители агентства заявили, что они воодушевлены расширенными возможностями поиска, доступностью данных и другими возможностями, которые предоставляют инструменты искусственного интеллекта.