«Крестный отец ИИ» Джеффри Хинтон ушел из Google и выступил против чат-ботов, потому что из-за них обычные люди «больше не будут знать, где правда»

11846 07-05-2023 0 Наука

Джеффри Хинтон уволился из Google, раскритиковал компанию за неэтичность — и теперь предупреждает мир об опасности искусственного интеллекта Вот его история.

В числе тех, кто открыто задавался вопросами об этичности использования ChatGPT, c самого начала был разработчик нейросетей, британо-канадский ученый Джеффри Хинтон. Он внес значимый вклад в развитие чат-ботов с искусственным интеллектом, но за последние месяцы превратился в принципиального противника неосмотрительного применения ИИ. Весной 2023 года он покинул компанию Google. «Медуза» рассказывает о том, за что Хинтона прозвали «крестным отцом ИИ» и почему он так критикует технологии, которые еще недавно помогал создавать. 

В 2012 году профессор Университета Торонто Джеффри Хинтон и двое его студентов разработали систему, которая могла анализировать тысячи снимков и обучать саму себя распознавать в реальности похожие объекты — например, цветы, животных или автомобили — с беспрецедентной точностью. После выдающегося достижения Хинтон и его ученики Илья Суцкевер и Алекс Крижевский продолжили исследования — а компанию, в которой они трудились над нейросетями, приобрела Google. Именно разработки британского профессора и двух студентов ускорили внедрение ИИ — и привели к появлению ChatGPT, Google Bard и других чат-ботов.

В 2018-м Хинтон получил премию имени Алана Тьюринга с формулировкой «за концептуальные и инженерные прорывы, сделавшие глубинные нейросети краеугольным компонентом в вычислительной технике». Пять лет спустя ученый резко изменил взгляды на ИИ, покинул Google — и 1 мая дал интервью The New York Times (NYT), в котором высказался об опасностях в этой сфере. Главная угроза чат-ботов и других подобных технологий, по мнению Хинтона, заключается в том, что интернет так сильно наполнится фейковым контентом — сгенерированными фотографиями, видео и текстами, — что обычные люди «больше не будут знать, где правда». 

НЕСКОЛЬКО ПРИМЕРОВ:

Помните, государственные СМИ очень любили рассказывать о болгарах, «восхищенных» Россией? Их заменил ChatGPT Нейросеть «предсказывает» будущее российской экономики и предлагает «мирный договор по Украине».

Тоже мечтаете увидеть Путина в Гааге? (Пока) это возможно только с помощью нейросети Midjourney Но изображения такие реалистичные, что разработчики уже запретили генерировать новые — и даже забанили создателя Bellingcat.

Видели фотографию папы римского в белом пуховике? К сожалению, это фейк (конечно же, сгенерированный нейросетью) Но не переживайте — поверил чуть ли не весь интернет.

Слышали новую песню Майкла Джексона? А кавер Канье Уэста на Тейлор Свифт? Искусственный интеллект теперь «пишет» и песни, которые почти невозможно отличить от настоящих. Они набирают миллионы прослушиваний — и лейблы уже требуют запретить ИИ-музыку.

Ученый также выразил опасения, что ИИ-технологии со временем превратятся из помощников людей в их замену и оставят представителей многих профессий без работы. «Некоторые люди верили, что технологии могут стать умнее, чем мы, но большинство считало это преувеличением, — сказал Хинтон в интервью NYT. — Я тоже думал, что до этого еще далеко. Я думал, что нам остается до этого от 30 до 50 лет или даже больше. Очевидно, я больше так не считаю».