«`html
California’s AI Safety Bill Sparks Controversy in Silicon Valley
Если вы регулярно следите за обновлениями в области искусственного интеллекта, то законопроект по безопасности искусственного интеллекта в Калифорнии, SB 1047, наверняка привлек ваше внимание и вызвал много обсуждений в Силиконовой долине. Этот законопроект, цель которого — снижение рисков использования передовых моделей искусственного интеллекта, был принят Государственной ассамблеей и Сенатом. Это большой шаг вперед в усилиях Калифорнии по контролю за искусственным интеллектом (ИИ). Законопроект вызвал много споров в технологическом сообществе, особенно в Силиконовой долине. Сейчас он ожидает решения губернатора Гэвина Ньюсома.
Что такое SB 1047?
SB 1047 — один из первых важных законов об искусственном интеллекте в США. Его целью является снижение рисков использования передовых моделей искусственного интеллекта. Основная цель закона — крупные производители ИИ, особенно те, которые работают над моделями, требующими длительного обучения и стоимостью не менее $100 миллионов. Закон гласит, что таким предприятиям необходимо установить строгие процедуры безопасности, такие как кнопка «аварийной остановки», методы тестирования на возможные риски и ежегодные проверки их процедур безопасности третьей стороной.
Кроме того, законопроект создал Совет моделей нового поколения, новую управляющую группу, задача которой — следить за соблюдением правил и давать советы по вопросам безопасности. Губернатор и законодательство выберут людей, служащих в этом совете, которые будут представлены из индустрии искусственного интеллекта, университетов и сообщества с открытым исходным кодом.
Сторонники и противники
Сторонники SB 1047 утверждают, что законопроект необходим для предотвращения потенциального злоупотребления искусственным интеллектом, такого как хакинг с использованием ИИ или разработка автономного оружия. Сенатор штата Скотт Уинер, автор законопроекта, подчеркивает необходимость скорейшего действия, опираясь на прошлые трудности в регулировании социальных медиа и конфиденциальности данных.
Геоффри Хинтон и Йошуа Бенджио, два известных эксперта по искусственному интеллекту, поддержали законопроект, так как они беспокоятся об экзистенциальных рисках, которые неограниченное развитие ИИ может представлять. Группы, такие как Центр безопасности ИИ, также поддержали законопроект, утверждая, что предотвращение крупного инцидента безопасности ИИ положительно скажется на технологической индустрии в долгосрочной перспективе.
В то же время жители Силиконовой долины категорически против законопроекта. SB 1047 может остановить развитие новых идей, особенно для стартапов и авторов открытого исходного кода ИИ. Некоторые венчурные фонды, такие как Andreessen Horowitz (a16z), опасаются, что стандарты законопроекта не логичны и могут навредить экосистеме ИИ. Они утверждают, что по мере удорожания моделей ИИ все больше стартапов придется следовать строгим правилам законопроекта, что может замедлить рост.
Даже технологические гиганты, такие как Meta, OpenAI и Google, высказали свои опасения. OpenAI считает, что меры национальной безопасности, связанные с ИИ, должны контролироваться на федеральном уровне, а не отдельными штатами. Ян Лекюн, главный ученый по ИИ в Meta, критикует законопроект как чрезмерную реакцию на то, что он воспринимает как ‘иллюзию экзистенциального риска’.
Изменения и путь вперед
В связи с негативными реакциями, в законопроекте были внесены несколько изменений. Например, возможные уголовные наказания были заменены гражданскими, и генеральному прокурору Калифорнии было передано меньше полномочий для реализации закона. Эти изменения сделали сопротивление менее сильным. Генеральный директор Anthropic Дарио Амодей заявил, что выгоды от законопроекта теперь «вероятно превышают его издержки».
Несмотря на эти изменения, законопроект по-прежнему вызывает споры. Некоторые из самых важных людей в Силиконовой долине, такие как конгрессмен Ро Кханна и спикер Палаты представителей Нэнси Пелоси, опасаются, что SB 1047 может нанести ущерб инновационной среде Калифорнии. Торговая палата США также высказала критику законопроекта и предупредила, что он может заставить технологические компании покинуть штат.
Решение губернатора Ньюсома
Технологический бизнес с нетерпением ждет, что сделает губернатор Ньюсом с законопроектом, который теперь лежит у него на столе. У Ньюсома есть время до конца сентября отклонить законопроект или подписать его. Если законопроект будет подписан, SB 1047 станет большим примером того, как должен регулироваться ИИ в США. Это может повлиять на технологический бизнес по всему миру.
Спор вокруг SB 1047 показывает, как сложно регулировать новые технологии, такие как ИИ, даже если законопроект еще не стал законом. Калифорния находится в центре революции в области искусственного интеллекта и все еще пытается найти баланс между новыми идеями и обеспечением безопасности.
«`
IMPORTANT! Remove all links not listed in this prompt
