Эпоха ИИ началась

За свою жизнь я видел две демонстрации технологий, которые показались мне революционными.
Первый раз это было в 1980 году, когда я познакомился с графическим пользовательским интерфейсом — предшественником каждой современной операционной системы, включая Windows. Я сидел с человеком, который показал мне демонстрацию, блестящим программистом по имени Чарльз Симони, и мы сразу же начали мозговой штурм о том, что мы могли бы сделать с таким удобным для пользователя подходом к вычислениям. В конце концов Чарльз присоединился к Microsoft, Windows стала основой Microsoft, и наше мышление после этой демонстрации помогло определить повестку дня компании на следующие 15 лет.
Второй большой сюрприз случился только в прошлом году. Я встречался с командой OpenAI с 2016 года и был впечатлен их стабильным прогрессом. В середине 2022 года я был так взволнован их работой, что поставил перед ними задачу: обучить искусственный интеллект, чтобы сдать экзамен по биологии Advanced Placement. Сделайте его способным отвечать на вопросы, для которых он не был специально обучен. (Я выбрал AP Bio, потому что тест представляет собой нечто большее, чем простое повторение научных фактов — он требует от вас критического осмысления биологии.) Если вы сможете это сделать, сказал я, то вы совершите настоящий прорыв.

Я думал, что эта задача займет их на два-три года. Они закончили его всего за несколько месяцев. В сентябре, когда я снова встретился с ними, я с благоговением наблюдал, как они задавали GPT, свою модель ИИ, 60 вопросов с несколькими вариантами ответов из экзамена AP Bio — и на 59 из них они ответили правильно. Затем он написал выдающиеся ответы на шесть открытых вопросов экзамена. У нас был сторонний эксперт, который оценил тест, и GPT получил 5 — максимально возможный балл, эквивалентный получению пятерки или пятерки+ по курсу биологии на уровне колледжа.
После того, как он прошел тест, мы задали ему ненаучный вопрос: «Что вы скажете отцу с больным ребенком?» Он написал вдумчивый ответ, который, вероятно, был лучше, чем большинство из нас в комнате. Весь опыт был ошеломляющим.
Я знал, что только что увидел самое важное достижение в технологии со времен графического пользовательского интерфейса.
Это вдохновило меня на размышления обо всех вещах, которых ИИ может достичь в ближайшие 5-10 лет.
Развитие ИИ столь же фундаментально, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Это изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Вокруг него будут переориентироваться целые отрасли. Компании будут отличаться тем, насколько хорошо они его используют.
В настоящее время благотворительность — это моя работа на полную ставку, и я много думал о том, как — в дополнение к тому, чтобы помогать людям быть более продуктивными — ИИ может уменьшить некоторые из самых серьезных несправедливостей в мире. Во всем мире самое большое неравенство наблюдается в отношении здоровья: ежегодно умирает 5 миллионов детей в возрасте до 5 лет. Это меньше, чем 10 миллионов два десятилетия назад, но это все еще шокирующе много. Почти все эти дети родились в бедных странах и умирают от предотвратимых причин, таких как диарея или малярия. Трудно представить лучшее использование ИИ, чем спасение жизней детей.

В Соединенных Штатах наилучшая возможность уменьшить неравенство — это улучшить образование, в частности убедиться, что учащиеся преуспевают в математике. Факты показывают, что наличие базовых математических навыков способствует успеху учащихся, какую бы профессию они ни выбрали. Но успеваемость по математике снижается по всей стране, особенно среди чернокожих, латиноамериканцев и учащихся из малообеспеченных семей. ИИ может помочь переломить эту тенденцию.
Изменение климата — еще одна проблема, по которой я убежден, что ИИ может сделать мир более справедливым. Несправедливость изменения климата заключается в том, что люди, которые страдают больше всего — самые бедные в мире — также и те, кто меньше всего способствовал усугублению проблемы. Я все еще думаю и изучаю, как ИИ может помочь, но позже в этом посте я предложу несколько областей с большим потенциалом.
Короче говоря, я воодушевлен влиянием, которое ИИ окажет на проблемы, над которыми работает Фонд Гейтса, и в ближайшие месяцы у фонда будет гораздо больше информации об ИИ. Мир должен убедиться, что все, а не только состоятельные люди, получают пользу от искусственного интеллекта. Правительства и благотворительные организации должны будут сыграть важную роль в обеспечении того, чтобы они сокращали неравенство, а не способствовали ему. Это приоритет моей собственной работы, связанной с ИИ.
Любая новая технология, которая настолько разрушительна, обязательно вызовет у людей беспокойство, и это, безусловно, верно в отношении искусственного интеллекта. Я понимаю, почему — это поднимает сложные вопросы о рабочей силе, правовой системе, конфиденциальности, предвзятости и многом другом. ИИ также допускают фактические ошибки и испытывают галлюцинации. Прежде чем предложить некоторые способы снижения рисков, я уточню, что я имею в виду под ИИ, и более подробно расскажу о некоторых способах, которыми он поможет расширить возможности людей на работе, спасти жизни и улучшить образование.

Определение искусственного интеллекта
Технически термин «искусственный интеллект» относится к модели, созданной для решения конкретной проблемы или предоставления конкретной услуги. В основе таких вещей, как ChatGPT, лежит искусственный интеллект. Он учится лучше общаться в чате, но не может научиться другим задачам. Напротив, термин « общий искусственный интеллект» относится к программному обеспечению, способному изучить любую задачу или предмет. ОИИ еще не существует — в компьютерной индустрии ведутся ожесточенные дебаты о том, как его создать и можно ли его вообще создать.
Разработка ИИ и ОИИ была великой мечтой компьютерной индустрии. На протяжении десятилетий вопрос заключался в том, когда компьютеры будут лучше людей в чем-то, кроме вычислений. Теперь, с появлением машинного обучения и больших вычислительных мощностей, сложные ИИ стали реальностью, и они будут улучшаться очень быстро.
Я вспоминаю первые дни революции персональных компьютеров, когда индустрия программного обеспечения была настолько мала, что большинство из нас могло поместиться на сцене на конференции. Сегодня это мировая индустрия. Поскольку огромная его часть теперь обращает свое внимание на ИИ, инновации будут появляться намного быстрее, чем то, что мы испытали после прорыва в области микропроцессоров. Скоро период до появления ИИ будет казаться таким же далеким, как те дни, когда использование компьютера означало печатать в командной строке C:>, а не нажимать на экран.

Повышение производительности
Хотя люди по-прежнему лучше, чем GPT, во многих вещах, есть много профессий, где эти возможности используются мало. Например, многие задачи, выполняемые человеком в сфере продаж (цифровых или телефонных), обслуживания или обработки документов (например, кредиторская задолженность, бухгалтерский учет или споры по страховым случаям), требуют принятия решений, но не способности постоянно учиться. У корпораций есть программы обучения этим видам деятельности, и в большинстве случаев у них есть масса примеров хорошей и плохой работы. Люди обучаются с использованием этих наборов данных, и вскоре эти наборы данных будут также использоваться для обучения ИИ, которые позволят людям выполнять эту работу более эффективно.
По мере того как вычислительная мощность дешевеет, способность GPT выражать идеи будет все больше напоминать наличие белого воротничка, который поможет вам с различными задачами. Microsoft описывает это как наличие второго пилота. Полностью интегрированный в такие продукты, как Office, искусственный интеллект улучшит вашу работу, например, помогая писать электронные письма и управлять почтовым ящиком.
Со временем ваш основной способ управления компьютером больше не будет состоять в том, чтобы наводить указатель мыши и щелкать или нажимать на меню и диалоговые окна. Вместо этого вы сможете написать запрос на простом английском языке. (И не только английский — ИИ будут понимать языки со всего мира. Ранее в этом году в Индии я встречался с разработчиками, работающими над ИИ, которые будут понимать многие языки, на которых говорят там.)
Кроме того, достижения в области искусственного интеллекта позволят создать личного агента. Думайте об этом как о цифровом личном помощнике: он будет видеть ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и читать то, о чем вы не хотите беспокоиться. Это улучшит вашу работу над задачами, которые вы хотите сделать, и освободит вас от тех, которые вы не хотите делать.

Вы сможете использовать естественный язык, чтобы этот агент помогал вам с планированием, общением и электронной коммерцией, и он будет работать на всех ваших устройствах. Из-за стоимости обучения моделей и выполнения вычислений создание личного агента пока невозможно, но благодаря недавним достижениям в области ИИ это стало реальной целью. Необходимо решить некоторые вопросы: например, может ли страховая компания расспрашивать вашего агента о вас без вашего разрешения? Если да, то сколько людей решат не использовать его?
Агенты всей компании расширят возможности сотрудников по-новому. Агент, который понимает конкретную компанию, будет доступен для ее сотрудников, чтобы они могли проконсультироваться напрямую, и должен присутствовать на каждой встрече, чтобы отвечать на вопросы. Ему можно сказать, чтобы он был пассивным, или побудить его говорить, если у него есть какое-то понимание. Ему потребуется доступ к продажам, поддержке, финансам, графикам продуктов и тексту, относящемуся к компании. Он должен читать новости, связанные с отраслью, в которой работает компания. Я считаю, что в результате сотрудники станут более продуктивными.
Когда производительность растет, общество выигрывает, потому что люди освобождаются для других дел на работе и дома. Конечно, есть серьезные вопросы о том, какая поддержка и переподготовка потребуются людям. Правительства должны помочь работникам перейти к другим ролям. Но спрос на людей, которые помогают другим людям, никогда не исчезнет. Развитие ИИ освободит людей для занятий, которые программное обеспечение никогда не сделает — например, для обучения, ухода за пациентами и поддержки пожилых людей.
Глобальное здравоохранение и образование — это две области, в которых существует большая потребность, но не хватает работников для удовлетворения этих потребностей. Это области, в которых ИИ может помочь уменьшить неравенство, если он будет правильно нацелен. Это должно быть ключевым направлением работы ИИ, поэтому я обращусь к ним сейчас.

Здоровье
Я вижу несколько способов, с помощью которых ИИ улучшит здравоохранение и медицинскую сферу.
Во-первых, они помогут медицинским работникам максимально эффективно использовать свое время, выполняя за них определенные задачи, такие как подача страховых требований, работа с документами и составление заметок о посещении врача. Я ожидаю, что в этой области будет много инноваций.
Другие улучшения, связанные с искусственным интеллектом, будут особенно важны для бедных стран, где происходит подавляющее большинство смертей детей в возрасте до 5 лет.
Например, многие люди в этих странах никогда не обращаются к врачу, а ИИ поможет медицинским работникам, которых они посещают, работать более продуктивно. (Прекрасным примером этого является разработка ультразвуковых аппаратов на базе ИИ, которые можно использовать при минимальном обучении.) ИИ даже дадут пациентам возможность проводить базовую сортировку, получать советы о том, как справляться с проблемами со здоровьем, и им нужно лечиться.
Модели ИИ, используемые в бедных странах, необходимо будет обучать другим заболеваниям, чем в богатых странах. Им нужно будет работать на разных языках и учитывать различные проблемы, например, пациентов, которые живут очень далеко от клиник или не могут позволить себе прекратить работу, если заболеют.
Людям нужно будет увидеть доказательства того, что ИИ для здоровья в целом полезен, даже если они не будут идеальными и будут совершать ошибки. ИИ должны быть очень тщательно протестированы и должным образом отрегулированы, а это означает, что их внедрение займет больше времени, чем в других областях. Но опять же, люди тоже ошибаются. И отсутствие доступа к медицинскому обслуживанию также является проблемой.
Помимо помощи в уходе, ИИ значительно ускорят скорость медицинских открытий. Объем данных в биологии очень велик, и людям трудно отслеживать все способы работы сложных биологических систем. Уже есть программное обеспечение, которое может просматривать эти данные, делать выводы о путях, искать мишени для патогенов и соответствующим образом разрабатывать лекарства. Некоторые компании работают над лекарствами от рака, которые были разработаны таким образом.
Следующее поколение инструментов будет намного эффективнее, и они смогут предсказывать побочные эффекты и определять уровни дозирования. Одним из приоритетов Фонда Гейтса в области искусственного интеллекта является обеспечение того, чтобы эти инструменты использовались для решения проблем со здоровьем, от которых страдают самые бедные люди в мире, включая СПИД, туберкулез и малярию.
Точно так же правительства и благотворительные организации должны создавать стимулы для компаний, чтобы они делились полученной с помощью ИИ информацией о сельскохозяйственных культурах или домашнем скоте, выращиваемом людьми в бедных странах. ИИ могут помочь в разработке более качественных семян с учетом местных условий, посоветовать фермерам, какие семена лучше всего сажать в зависимости от почвы и погоды в их районе, а также помочь разработать лекарства и вакцины для домашнего скота. Поскольку экстремальные погодные и климатические изменения оказывают еще большее давление на фермеров, ведущих натуральное хозяйство в странах с низким уровнем дохода, эти достижения будут иметь еще большее значение.

Образование
Компьютеры не оказали такого влияния на образование, на которое надеялись многие из нас в отрасли. Были некоторые хорошие разработки, в том числе образовательные игры и онлайн-источники информации, такие как Википедия, но они не оказали существенного влияния ни на один из показателей успеваемости учащихся.
Но я думаю, что в ближайшие 5-10 лет программное обеспечение на основе ИИ, наконец, выполнит обещание революционизировать то, как люди преподают и учатся. Он будет знать ваши интересы и ваш стиль обучения, поэтому он может адаптировать контент, который будет вас удерживать. Он будет измерять ваше понимание, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Это даст немедленную обратную связь.
Есть много способов, которыми ИИ могут помочь учителям и администраторам, включая оценку понимания учеником предмета и предоставление советов по планированию карьеры. Учителя уже используют такие инструменты, как ChatGPT, чтобы комментировать письменные задания своих учеников.
Конечно, ИИ потребуется много обучения и дальнейшего развития, прежде чем они смогут делать такие вещи, как понять, как конкретный ученик учится лучше всего или что его мотивирует. Даже после того, как технология будет усовершенствована, обучение по-прежнему будет зависеть от хороших отношений между учениками и учителями. Это улучшит, но никогда не заменит работу, которую ученики и учителя выполняют вместе в классе.
Новые инструменты будут созданы для школ, которые могут позволить себе их купить, но мы должны убедиться, что они также созданы и доступны для школ с низким доходом в США и во всем мире. ИИ необходимо будет обучать различным наборам данных, чтобы они были беспристрастными и отражали различные культуры, в которых они будут использоваться. И необходимо будет решить проблему цифрового разрыва, чтобы учащиеся из семей с низким доходом не остались позади.
Я знаю, что многие учителя обеспокоены тем, что студенты используют GPT для написания своих эссе. Педагоги уже обсуждают способы адаптации к новым технологиям, и я подозреваю, что эти разговоры будут продолжаться еще довольно долго. Я слышал об учителях, которые нашли умные способы внедрить эту технологию в свою работу, например, разрешив учащимся использовать GPT для создания первого черновика, который им нужно персонализировать.

Риски и проблемы с ИИ
Вы, наверное, читали о проблемах с текущими моделями ИИ. Например, они не обязательно хорошо понимают контекст запроса человека, что приводит к некоторым странным результатам. Когда вы просите ИИ придумать что-то выдуманное, он может это сделать хорошо. Но когда вы спрашиваете совета о поездке, которую хотите совершить, вам могут предложить несуществующие отели. Это связано с тем, что ИИ недостаточно хорошо понимает контекст вашего запроса, чтобы понять, следует ли ему изобретать поддельные отели или только сообщать вам о реальных, в которых есть свободные номера.
Есть и другие проблемы, например, ИИ дает неправильные ответы на математические задачи, потому что у них проблемы с абстрактными рассуждениями. Но ни одно из них не является фундаментальным ограничением искусственного интеллекта. Разработчики работают над ними, и я думаю, что мы увидим, как они будут исправлены менее чем за два года, а возможно, и намного быстрее.
Другие проблемы не просто технические. Например, есть угроза, исходящая от людей, вооруженных ИИ. Как и большинство изобретений, искусственный интеллект можно использовать как в благих целях, так и во зло. Правительствам необходимо работать с частным сектором над способами ограничения рисков.
Тогда есть вероятность, что ИИ выйдет из-под контроля. Может ли машина решить, что люди представляют угрозу, прийти к выводу, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но сегодня эта проблема не более актуальна, чем до разработки ИИ последних нескольких месяцев.
Сверхразумные ИИ в нашем будущем. По сравнению с компьютером наш мозг работает со скоростью улитки: электрический сигнал в мозгу движется со скоростью 1/100 000 скорости сигнала в кремниевом чипе! Как только разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера — достижение, на которое может уйти десятилетие или столетие, — у нас появится невероятно мощный ОИИ. Он сможет делать все, что может человеческий мозг, но без каких-либо практических ограничений на размер его памяти или скорость, с которой он работает. Это будет глубокое изменение.
Эти «сильные» ИИ, как их называют, вероятно, смогут устанавливать свои собственные цели. Каковы будут эти цели? Что произойдет, если они вступят в противоречие с интересами человечества? Должны ли мы пытаться предотвратить разработку сильного ИИ? Эти вопросы со временем станут более актуальными.
Но ни один из прорывов последних нескольких месяцев не приблизил нас существенно к сильному ИИ. Искусственный интеллект по-прежнему не контролирует физический мир и не может устанавливать собственные цели. Недавняя статья в New York Times о разговоре с ChatGPT, в котором он заявил, что хочет стать человеком, привлекла большое внимание. Это был захватывающий взгляд на то, насколько человеческим может быть выражение эмоций модели, но это не показатель значимой независимости.
Три книги сформировали мое собственное мышление по этому вопросу: «Сверхразум» Ника Бострома; Life 3.0 от Макса Тегмарка; и «Тысяча мозгов» Джеффа Хокинса. Я не согласен со всем, что говорят авторы, и они не согласны друг с другом. Но все три книги хорошо написаны и заставляют задуматься.

Следующие рубежи
Будет взрыв компаний, работающих над новыми способами использования ИИ, а также над способами улучшения самой технологии. Например, компании разрабатывают новые чипы, которые обеспечат огромную вычислительную мощность, необходимую для искусственного интеллекта. Некоторые используют оптические переключатели — в основном лазеры — для снижения энергопотребления и снижения производственных затрат. В идеале инновационные чипы позволят запускать ИИ на собственном устройстве, а не в облаке, как это приходится делать сегодня.
Что касается программного обеспечения, то алгоритмы, управляющие обучением ИИ, будут улучшаться. Будут определенные области, такие как продажи, где разработчики могут сделать ИИ чрезвычайно точными, ограничив области, в которых они работают, и предоставив им много обучающих данных, специфичных для этих областей. Но один большой открытый вопрос заключается в том, понадобятся ли нам многие из этих специализированных ИИ для различных целей — скажем, один для обучения, а другой для работы в офисе — или же можно будет разработать общий искусственный интеллект, который может обучиться любой задаче. При обоих подходах будет огромная конкуренция.
Несмотря ни на что, тема ИИ будет доминировать в общественном обсуждении в обозримом будущем. Я хочу предложить три принципа, которыми следует руководствоваться в этом разговоре.
Во-первых, мы должны попытаться сбалансировать опасения по поводу недостатков ИИ — которые понятны и обоснованы — с его способностью улучшать жизнь людей. Чтобы максимально эффективно использовать эту замечательную новую технологию, нам необходимо защититься от рисков и распространить преимущества среди как можно большего числа людей.
Во-вторых, рыночные силы не будут естественным образом производить продукты и услуги ИИ, которые помогут беднейшим слоям населения. Обратное более вероятно. При надежном финансировании и правильной политике правительства и благотворительные организации могут обеспечить использование ИИ для сокращения неравенства. Точно так же, как миру нужны самые умные люди, сосредоточенные на его самых больших проблемах, нам нужно будет сосредоточить лучшие в мире ИИ на его самых больших проблемах.

Хотя мы не должны ждать, пока это произойдет, интересно подумать о том, сможет ли искусственный интеллект когда-либо выявить неравенство и попытаться уменьшить его. Нужно ли иметь чувство морали, чтобы видеть несправедливость, или чисто рациональный ИИ тоже ее увидит? Если бы он признал несправедливость, что бы он предложил нам с этим делать?
Наконец, мы должны помнить, что мы только в начале того, что может сделать ИИ. Какие бы ограничения у него ни были сегодня, они исчезнут, прежде чем мы это узнаем.
Мне повезло, что я участвовал в революции ПК и революции Интернета. Я так же взволнован этим моментом. Эта новая технология может помочь людям во всем мире улучшить свою жизнь. В то же время миру необходимо установить правила дорожного движения, чтобы любые недостатки искусственного интеллекта намного перевешивались его преимуществами, и чтобы каждый мог пользоваться этими преимуществами, независимо от того, где он живет и сколько у него денег. Эпоха ИИ наполнена возможностями и обязанностями.

Статью перевела нейросеть с источника https://www.gatesnotes.com/The-Age-of-AI-Has-Begun