PRoAtom

(Всего: 0)
от на 15/07/2024

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ОБОСНОВАНИЕ ЯДЕРНОЙ БЕЗОПАСНОСТИ

Какова роль ИИ в атомной отрасли? В одном из примеров Palantir изучает возможность использования своего искусственного интеллекта, чтобы помочь операторам атомной отрасли быстрее и надежнее писать обоснования безопасности. Джанет Вуд поговорила с Ником Преттджоном из компании.

3 июля 2024 г.

Искусственный интеллект (ИИ) — это широко распространенная в настоящее время идея, которую одновременно обсуждают как решение многих текущих проблем и принижают как рискованную технологию, которая может вывести контроль из рук пользователей-людей. Николас Преттеджон, руководитель отдела искусственного интеллекта в Великобритании и странах Северной Европы компании Palantir, резюмирует его как «программное обеспечение, которое помогает компаниям решать их наиболее важные проблемы».
Преттеджон объясняет, что искусственный интеллект не предназначен для более быстрого выполнения простых задач, как это часто является обоснованием типов автоматизации, будь то аппаратное или программное обеспечение. Вместо этого речь идет о том, чтобы дать людям возможность делать сложные вещи.
Он приводит простой пример задачи, которая более сложна, чем кажется: задавать вопросы неструктурированным языком о согласии в международной компании, где документы составлены на разных языках и относятся к разным режимам разрешений. Он говорит: «Это те вещи, которые наиболее полезны. Гражданское общество будет говорить о том, что ИИ не будет использоваться в критических обстоятельствах – но именно в этом вся польза. Нам нужно найти способ думать о рисках и их смягчении».
Действительно, существует риск того, что ИИ даст «неправильный» ответ на неожиданный вопрос. Проблема ИИ, на которую часто обращают внимание, — это риск так называемых «галлюцинаций». Преттеджон сравнивает это с опытом работы с младшими сотрудниками. По его словам, они также могут выявить отклонения, «но вы можете справиться с этим внутри организации. У вас есть надзор, система сдержек и противовесов, и люди проверяют работу друг друга. Конечно, есть некоторые риски, которые невозможно полностью устранить, и именно здесь компании используют страхование».
Преттеджон говорит, что у большинства людей есть прокси-серверы для ИИ – имея в виду диспетчерские на атомных электростанциях, которые за десятилетия превратились из проводных сигналов тревоги «красного света» в экраны, предоставляющие как подробную информацию, которую можно запросить, так и рекомендуемые действия. Но он предполагает, что ИИ — скорее коллега. Он объясняет: «Если бы у каждого был помощник, вы бы могли постоянно обсуждать идеи, особенно если бы у них была ваша собственная база знаний и опыт работы – это было бы сотрудничество. Основная цель некоторых из наших наиболее успешных развертываний заключалась в том, чтобы конечный пользователь увидел интересную перспективу, о которой он даже не думал».
«С помощью искусственного интеллекта языковая модель также может получить доступ к корпоративным знаниям и, возможно, исследовать что-то из хранилища данных, что пользователь не оценил». Потому что ИИ обладает полной суммой всех знаний. «Вы действительно возвышаете своих операторов», — говорит он.
Преттеджон рассказывает об опыте Palantir по использованию искусственного интеллекта в сфере здравоохранения. Он подчеркивает, что первой целью должно быть улучшение качества, поскольку это получает поддержку со стороны пользователей. Он говорит: «Мы всегда думаем об ИИ с точки зрения повышения эффективности, но на примере больниц мы узнали, что с помощью ИИ невозможно повысить эффективность. Люди заботятся о своей работе, и они никогда не примут технологию, которая сделает их быстрее, если она не обеспечит лучший уход. Никогда." Сосредоточение внимания на улучшении качества медицинской помощи может включать, например, составление более четких и точных клинических записей и планирование более быстрых или более подходящих посещений. «Если ИИ дает лучший результат, это дает им почувствовать, что они могут положиться на него и использовать его. Тогда вы получите прирост эффективности «бесплатно». Он резюмирует: «Кодируя опыт, вы увеличиваете его масштабы».
Пути решения мировых проблем
Преттеджон подробно останавливается на некоторых ограничениях существующих систем. «Главное, что мы пытаемся сделать, — это отвлечь людей от мышления так, как их «исходные системы» видят мир». Он говорит, что исходные системы (которые могут быть программами, используемыми для запуска или обслуживания актива, или любого типа хранилища информации) «имеют – почти по замыслу – идею смотреть на мир через замочную скважину». Например, одна система может показывать, сколько энергии передается по проводу, но журналы обслуживания ведутся в другой системе, которая «не понимает», что происходит в проводе.
Преттеджон представляет себе пользователя, который должен принимать критические решения о том, что происходит в этом разнообразии систем, и хочет получить информацию в форме, которую можно легко использовать: «Вы ищете представление о системе, которое говорит вам: «Этот провод вниз, в этом месте, это затрагивает такое количество клиентов, из которых четыре пользователя нуждаются в электроэнергии по медицинским показаниям». В этот момент, говорит он, вы не беспокоитесь о том, находится ли информация в столбце в этой базе данных или в строке, в другой базе данных. «Мы пытаемся создавать системы, отражающие то, как люди на самом деле решают проблемы, и то, как они представляют данные при решении проблем. Факты, информация и семантика. Для этого требуется система другого типа», которая соединяет все эти старые и новые представления о том, что происходит, делает это в реальном времени и представляет собой помощь.
Что это значит на практике? В случае такой проблемы, как неисправный кабель, описанной выше, обычно существуют действия по устранению проблемы, но детали остаются в различных программных системах и в различных формах в зависимости от источника данных. Он объясняет: «Мы начинаем встраивать эти [детали] в программное обеспечение. Но затем вы можете начать выполнять эти действия с цифровым двойником. Ваша семантическая модель будет спрашивать: «Что произойдет, если мы сделаем это, что произойдет, если мы сделаем это?» Наконец, вы получаете график действий», подкрепленный данными, опытом, техническими деталями и т. д., который система ИИ может «записать» в такие системы, как проектирование и техническое обслуживание, добавление заданий в очередь, изменение чьего-либо задания или выполнение других задач. действия. Самое главное, что пользователь может задавать неструктурированные вопросы, используя обычный синтаксис, а не программирование.
Преттеджон говорит: «Наличие такой глубокой информации в системе означает, что мы не являемся бункером, не приборной панелью и не выхлопным отверстием полезной информации. Это диспетчерская для ведения бизнеса, которая выглядит так, как мы хотим говорить о бизнесе, и понимает, как мы хотим о бизнесе думать». Он добавляет: «Это гораздо более эффективная диспетчерская, чем то, что происходило раньше, когда кто-то подключался к восьми экранам с помощью ноутбука и пытался вести бизнес. Теперь они могут разместить это на одной панели», используя синтаксис, знакомый пользователю.
Преттеджон добавляет, что система разовьет «понимание семантики, и глубоко в этой сети они начнут понимать отношения между сущностями, каковы эти отношения и цель того, что мы сообщаем, по сравнению с синтаксисом».
Обоснования безопасности
Palantir изучает возможность использования своего искусственного интеллекта, чтобы помочь гражданским ядерным операторам гораздо быстрее писать обоснования безопасности. Инженеры компании рассматривали эту возможность. Они говорят, что у атомной отрасли теперь есть новые потребности в написании обоснований безопасности по ряду причин.
Во-первых, это масштабы вложений, в рамках которых реализуется множество новых разработок и новых проектов. «Объем необходимых обоснований безопасности зашкалил… У нас сложилась ситуация, когда обоснования безопасности необходимо производить в больших масштабах очень быстро», — говорит Преттеджон. Они сравнивают это с имеющимися сейчас составителями обоснований безопасности: «Как правило, они работают в организациях очень долгое время, и люди недооценивают нишу этого набора навыков — это очень специализированный навык. Если мы посмотрим на сокращение штата и выход на пенсию, то мы увидим рост спроса на обоснования безопасности при сокращении числа людей, способных их подготовить. В этом суть проблемы. Что-то должно измениться».
Компания ищет способы ускорить этот процесс. Преттеджон объясняет: «Когда мы думаем о вопросах ядерной безопасности, они не просты. Каждый из них обычно состоит из сотен страниц, а в портфеле обоснований безопасности обычно содержатся сотни документов. Это очень много документов». Обоснование безопасности для одного здания может заполнить «шкафчики и шкафчики» — и это вполне реально, поскольку в некоторых случаях оно включает в себя оригинальные документы, которые нигде не фиксируются в цифровом виде.
Компания ищет пути более быстрого создания обоснований безопасности. Одна из возможностей — иметь возможность ссылаться на старые обоснования безопасности и передавать соответствующие детали в новые обоснования безопасности. Программное обеспечение Palantir использует встроенные модели для быстрого сканирования текста и поиска частей, на которые необходимо будет ссылаться в будущем обосновании безопасности. Это не похоже на поиск ключевого слова, объясняет Преттеджон: «Интересен контекст, а не ключевое слово, поэтому гораздо эффективнее выполнять семантический поиск, чем искать ключевые слова. Вы найдете множество различных применений, в которых используется это слово, и увидите, что некоторые из них полезны».
Речь идет об экономии времени, а не затрат. «Посмотрите, что входит в строительство ядерного реактора, и стоимость и экономия персонала — это не то, что вас беспокоит… Но важно иметь возможность ссылаться на старое и привносить его в новое».
Другая цель — проверка и курирование документов. «Обоснования безопасности — это сотни документов и тысячи страниц, и вам нужно иметь возможность ссылаться на документы друг на друга». Вносить изменения в один документ, следить за тем, чтобы они вносились во все остальные документы, и обеспечивать их актуальность во всех — «действительно трудная задача». Преттеджон говорит: «Эти документы написаны не одним человеком. Даже если проект составлен одним человеком, существуют поправки, написанные разными заинтересованными сторонами, которые должны пройти обоснование безопасности, прежде чем он будет одобрен. Поэтому понимание того, когда обоснование безопасности было пересмотрено, действительно важно, а также рассмотрение двух вариантов обоснования безопасности, чтобы понять, что было пересмотрено и почему. Затем вы захотите применить эти знания к любым будущим обоснованиям безопасности, которые вы создадите, чтобы ускорить этот процесс».
Он использует эту возможность еще дальше, в контексте сотен написанных обоснований безопасности. Говоря о национальной программе, такой как британская, он спрашивает: «Если бы вы могли перенести их на центральную платформу и использовать эти функции, сможете ли вы создать документацию по обоснованию безопасности с нуля?
«В процессе работы всегда нужны люди, и люди всегда должны активно привлекаться к написанию обоснований безопасности, но существует много материалов по обоснованиям безопасности, которые не имеют ничего общего со спецификой того, что утверждается. Существует множество общих вещей, которые необходимо учитывать, и множество рисков, которые связаны с множеством различных обоснований безопасности».
Учитывая весь контекст предыдущих обоснований безопасности, вы можете попросить ИИ создать новое обоснование безопасности, которое в общих чертах будет похоже на существующее, и включить весь соответствующий контент. Таким образом: «Вам не нужно начинать с нуля, у вас есть строительный каркас… и мы все знаем, что самая сложная часть написания документов — это начало. Намного проще иметь возможность отмечать чужую домашнюю работу».
Наконец, он говорит, что «обоснования безопасности не просто составляются и утверждаются одним человеком, они проходят через множество различных заинтересованных сторон». Поскольку большое количество документов выполняется параллельно, «в любой момент времени вам понадобится какая-то система, которая сможет отслеживать, где находится каждый документ в любой момент времени». Какие заинтересованные стороны это увидели? Какие части были проверены? Какие комментарии были сделаны? Какие адаптации были сделаны? Где аудит? Кто и что утвердил и когда?
Это становится очень важным при рассмотрении рабочего процесса во время строительства. На крупных объектах, таких как атомные электростанции, работают тысячи людей и хранится сложная информация, на изучение которой уходят дни или недели. Любой крупный капитальный проект может накопить кучу документов «на утверждение» и незадокументированных незавершенных работ. Более того, чтобы сделать что-то по-другому – и лучше – требуется одобрение обоснования безопасности. Но у людей нет инструментов для сравнения и сопоставления разделов в нескольких документах, и нет простого способа сказать: «Это те моменты, на которые вам нужно обратить внимание». Однако ИИ может ответить на неструктурированный вопрос, например: «Могу ли я вести здесь земляные работы?» проверив все документы, относящиеся к этому квадратному метру земли.
Рассуждение, а не регулирование
В более общих чертах Преттеджон говорит: «То, чему мы пытаемся научить ИИ, не является регулированием. Мы пытаемся научить рассуждать».
Он использует аналогию с гораздо более простым процессом – проверки деталей счета на соответствие условиям контракта. «Мы не обучаем его по каждому контракту, потому что это невозможно проверить. Вместо этого мы учим его, как это делать. Это все логические отношения».
Если перевести это на пример безопасности: «у вас будут все правила, разделенные по пунктам. Если у вас есть какая-либо история болезни, вы можете указать это как еще один тип объекта, вы можете подать иски – вот здесь регулирующие органы приняли меры». Он говорит: «Смысл в том, чтобы использовать ИИ для того, в чем он хорош, то есть, по сути, притворяться, что рассуждает о вещах, а не использовать его для того, в чем он плох, а именно для запоминания фактов».
Он возвращается к своей аналогии с ИИ как с коллегой: «Он никогда не устает, и если вам не нравится результат, вы можете заставить его сделать это снова, так что у вас есть возможность пересматривать его так часто, как вам хочется».
Преттеджон также говорит о «племенных знаниях», возникающих в отделе, и о доступе к знаниям и опыту, спрятанным в головах людей. «Новым людям, приходящим, приходится тратить много лет на создание этих знаний», — говорит он. «Они недоступны, и без многолетнего слежения за ними вы не будете столь же эффективны, как они, потому что знания заперты в их голове – однако хорошо, что они умеют рассказывать кому-то другому, но это всегда будет несовершенно». Это влияет на способность организации быть гибкой или привлекать новых членов команды, чтобы они были такими же хорошими, как и люди, которые работают в ней уже долгое время. «С этими племенными знаниями я мог бы появиться завтра, и хотя я ничего не знаю о ядерной безопасности, если бы у меня уже было что-то подобное со всей этой встроенной логикой, я не был бы полностью неэффективным в течение трех лет, пытаясь изучить это. . Через пару недель или месяцев вы сможете добиться хотя бы частичной эффективности.
«Когда вы смотрите на это с такой точки зрения, вся отрасль меняется».