Ускорение развития искусственного интеллекта, возможно, уже разрушает демократические процессы, такие как выборы, и может даже поставить под угрозу существование человечества, предупредили эксперты по искусственному интеллекту на конференции Reuters NEXT в Нью-Йорке.
Бурный рост генеративного ИИ, который может создавать текст, фотографии и видео в ответ на открытые запросы, в последние месяцы вызвал как восторг по поводу его потенциала, так и опасения, что он может сделать некоторые рабочие места архаичными, повлиять на выборы и даже, возможно, подавить волю людей.
«Самый большой непосредственный риск - это угроза демократии. В 2024 году по всему миру состоится множество выборов, и вероятность того, что ни на одних из них не будут допущены серьезные фальсификации и тому подобные вещи, практически равна нулю», - заявил Гэри Маркус, профессор Нью-Йоркского университета, выступая на конференции Reuters NEXT в Нью-Йорке в среду.
Одна из основных проблем заключается в том, что генеративный ИИ усилил дипфейки — реалистичные, но сфабрикованные видеоролики, созданные алгоритмами ИИ, обученными на большом количестве онлайн-материалов, — которые появляются в социальных сетях, размывая факты в политике.
По словам Маркуса, хотя такие синтетические носители существуют уже несколько лет, то, что раньше стоило миллионы, теперь может стоить 300 долларов. Компании все чаще используют ИИ для принятия решений, в том числе, о ценообразовании, что может привести к дискриминационным последствиям, предупредили эксперты на конференции.
Марта Телладо, генеральный директор некоммерческой организации Consumer Reports, сообщила, что расследование показало, что владельцы автомобилей, живущие в районах с преобладанием чернокожего или цветного населения и в непосредственной близости от районов, где преобладают белые жители, платят страховые взносы по автострахованию на 30% выше. «Нет никакой прозрачности для потребителя», — сказала она во время интервью.
Еще одна возникающая угроза, от которой законодатели и технологические лидеры должны остерегаться, - это возможность того, что искусственный интеллект станет настолько мощным, что станет угрозой человечеству, заявил Энтони Агирре, основатель и исполнительный директор Института будущего жизни, в интервью на конференции. «Мы не должны недооценивать, насколько мощны эти модели сейчас и насколько быстро они будут становиться еще более мощными», — сказал он.
Институт будущего жизни, некоммерческая организация, нацеленная на снижение катастрофических рисков, связанных с передовым искусственным интеллектом, попала в заголовки газет в марте, когда опубликовала открытое письмо, призывающее к шестимесячной паузе в обучении систем искусственного интеллекта, более мощных, чем GPT-4 OpenAI. В нем предупредили, что лаборатории искусственного интеллекта «втянуты в неконтролируемую гонку» по разработке «мощных цифровых умов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать».
Разработка все более мощного искусственного интеллекта также может привести к сокращению рабочих мест до такой степени, что люди просто не смогут освоить новые навыки и войти в другие отрасли.
