PRoAtom

(Всего: 0)
от на 05/07/2024

⚡️ У топ-менеджмента OpenAI есть план по продаже AGI РФ/Китаю/США, устроив для начала «качели» за лучшее предложение от правительств стран, планируется начать с США - заявил экс-сотрудник OpenAI Леопольд Ашенбреннер в интервью

Но это еще не все. Леопольд выпустил свой документ об AGI, в котором он делится своим видением будущего ИИ.

Отметим, что Леопольд был в команде Ильи Суцкевера и его уволили из OpenAI в апреле из-за того, что он якобы занимался сливом информации. А сейчас он с именитыми венчурными инвесторами запустил свой венчурный фонд для AGI.

Основные моменты более подробно можно тут посмотреть:

1. К 2025-2026 годам эти продвинутый ИИ превзойдет по интеллекту выпускников колледжей, а к концу десятилетия станет умнее любого человека.

Ашенбреннер предупреждает, что этот прогресс может привести к гонке в области ИИ между США и Китаем, а в худшем случае — к полномасштабной войне.

2. AGI появится уже в 2027 году. Это будет сопоставим с человеческим разумом. Ашенбреннер приходит к этому выводу, анализируя темпы прогресса в области deep learning за последние годы.

3. Ключевую роль будут иметь алгоритмические прорывы, а не только масштабирование вычислений. В ближайшие годы модели превратятся агентов, сравнимых с людьми.

4. Существует проблема - «Стена данных». Ее суть в том, что данные в интернете не бесконечны (сейчас ИИ-модели обучаются именно на них). Если рассматривать область программирования, то все публичные репозитории на Github оцениваются примерно в 1 миллион токенов. Вероятно, подход к обучению моделей вскоре придется менять.

5. После достижения AGI прогресс не остановить. Сотни миллионов AGI смогут автоматизировать ИИ-исследования, сжав десятилетие алгоритмического прогресса (5+ порядков величины) в 1 год. Мы быстро перейдем от человеческого уровня к ИИ-системам, намного превосходящим человека.

6. Общество движется к созданию индивидуальных кластеров для обучения моделей стоимостью в сотни миллиардов $ к 2028 году. Они будут требовать мощности, эквивалентной той, что требует небольшой штат США. А уже к концу десятилетия мы придем к кластерам стоимостью более чем в $1 трлн, требующим мощности более 20% от производства электроэнергии в США. Триллионы $ пойдут на производство сотен миллионов GPU в год.

7. При текущем курсе развития событий, ведущие китайские AGI-лаборатории будут находиться не в Пекине или Шанхае, а в Сан-Франциско и Лондоне. Через несколько лет станет ясно, что секреты разработки AGI являются самыми важными секретами национальной обороны и заслуживают такого же отношения, как чертежи бомбардировщиков, не говоря уже о «ядерных секретах».

8. Что требуется для защиты AGI:
• Полностью изолированные дата-центры с системой безопасности как на военных базах
• Новые достижения в области конфиденциальности вычислений и шифрования
• Работа всех исследователей в защищенных помещениях
• Строгая проверка персонала и мониторинг
• Жесткий контроль внешних зависимостей
• Постоянный интенсивный пентестинг со стороны спецслужб.

Текущая готовность лабораторий ИИ:
• Лаборатории не готовы к защите от полномасштабного промышленного шпионажа
• Нет времени на подготовку, учитывая вероятные сроки создания AGI (несколько лет).

Необходимые шаги, которые следует предпринять:
• Немедленное и радикальное усиление безопасности лабораторий ИИ
• Строительство вычислительных кластеров AGI в США
• Готовность лабораторий ИИ сотрудничать с военными.