Google Brain
Google Brain — это исследовательский проект Google по изучению искусственного интеллекта на основе глубокого обучения. В нём сочетаются открытые исследования в области машинного обучения с разработкой систем и вычислительными мощностями в масштабах Google.[1]
МиссияПравить
Миссия Google Brain заключается в улучшении жизни людей при помощи создания более умных машин.[2] Для этого команда фокусируется на создании гибких моделей, которые способны самостоятельно получать признаки, а также эффективно использовать данные и вычислительные мощности.
Команда Google Brain приводит следующее описание: «Данный подход является частью более широкой области машинного обучения, чем глубокое обучение, и гарантирует, что наша работа будет иметь огромную значимость для решения практических задач. Более того, наш опыт в области систем дополняет этот подход, позволяя нам создавать инструменты для ускорения исследований в области машинного обучения и раскрывать их практическую ценность для мира.[2]»
ИсторияПравить
Так называемый проект «Google Brain» начался в 2011 году как сторонний исследовательский проект научного сотрудника Google Джеффа Дина, исследователя Google Грега Коррадоruen и профессора Стэнфордского университета Эндрю Ына.[3][4][5] Ын интересовался использованием методов глубокого обучения для решения задач искусственного интеллекта с 2006 года, а в 2011 году начал сотрудничать с Дином и Коррадо для создания крупномасштабной системы глубокого обучения DistBelief[6] поверх инфраструктуры облачных вычислений Google. Google Brain был запущен как проект Google X и стал настолько успешным, что вернулся обратно в Google: Астро Теллерruen сказал, что Google Brain окупил всю стоимость Google X.[7]
В июне 2012 года New York Times сообщила, что кластер из 16000 компьютеров, предназначенных для подражания некоторым аспектам деятельности мозга человека, обучился распознаванию котов на основе 10 миллионов цифровых изображений, полученных из роликов на YouTube.[5] Также эта история была освещена на National Public Radio[8] и в Smart Planetruen.[9]
В марте 2013 года Google наняла Джеффри Хинтона, ведущего исследователя в области глубокого обучения, и приобрела компанию DNNResearch, которой руководил Хинтон. Хинтон сказал, что будет распределять своё время между исследованием в университете и работой в Google.[10]
26 января 2014 года несколько новостных изданий заявили, что Google купила DeepMind Technologies за неназванную сумму. Позднее аналитики объявили, что компания была приобретена за 400 миллионов фунтов (650 миллионов долларов, или 486 миллионов евро), хотя в последующих отчетах покупка оценивалась более чем в 500 миллионов фунтов.[11][12][13][14][15][16][17] Как сообщается, это приобретение произошло после того, как Facebook завершил переговоры с DeepMind Technologies в 2013 году, в результате которых не была достигнута договорённость о покупке компании.[18]
Последние достиженияПравить
Система шифрования, разработанная искусственным интеллектомПравить
В октябре 2016 года Google Brain провела эксперимент по шифрованию сообщений. В нем два набора ИИ разработали свои собственные криптографические алгоритмы для защиты своих сообщений от другого ИИ, которые в свою очередь направлены на развитие собственной системы для взлома шифрования, созданного ИИ. Исследование оказалось успешным, поскольку два первоначальных ИИ смогли с нуля обучиться общению друг с другом.[19]
В данном эксперименте были созданы три ИИ: Алиса, Боб и Ева. Цель эксперимента состояла в том, чтобы Алиса послала сообщение Бобу, который сможет его расшифровывать, а Ева попыталась бы перехватить данное сообщение. При этом ИИ не давались чёткие инструкции о том, как шифровать их сообщения. Им была предоставлена только функция потерь. Следствием этого стало то, что если во время эксперимента общение между Алисой и Бобом не увенчалось успехом (сообщение Алисы было неправильно истолковано Бобом или перехвачено Евой), то в последующих раундах криптография изменяется таким образом, чтобы Алиса и Боб смогли безопасно общаться. Действительно, данное исследование позволило сделать вывод о том, что ИИ может разработать собственную систему шифрования без заранее прописанных алгоритмов шифрования, что может стать прорывом в области шифрования сообщений в будущем.[20]
Улучшение изображенийПравить
В феврале 2017 года Google Brain анонсировала систему улучшения изображения, использующую нейронные сети для заполнения деталей изображений с очень низким разрешением. В представленных примерах изображения с разрешением 8x8 преобразуются в изображения с разрешением 32x32.
Программное обеспечение использует две различные нейронные сети для создания изображений. Первая, называемая «условной сетью», отображает пиксели из изображения с низким разрешением в пиксели более качественного изображения, понижая разрешение последнего до 8×8 и пытаясь найти совпадение. Вторая сеть — «предварительная», которая анализирует пикселизованное изображение и пытается добавить детали на основе большого количества изображений с высоким разрешением. Затем, при масштабировании исходного изображения 8×8, система добавляет пиксели, основываясь на своём знании того, что должно быть на картинке. Наконец, выходы из двух сетей объединяются для создания окончательного изображения.[21]
Это представляет собой прорыв в улучшении изображений с низким разрешением. Несмотря на то, что добавленные детали не являются частью настоящего изображения, а представляют собой только наилучшие догадки, технология показала впечатляющие результаты в реальных испытаниях. Когда людям показывали улучшенное изображение и настоящее, они ошибались в 10 % случаев на фотографиях знаменитостей и в 28 % случаев на фотографиях спален. Производится сравнение с предыдущими разочарующими результатами, где обычное бикубическое масштабирование всегда правильно определялось человеком.[22][23][24]
Переводчик GoogleПравить
Недавно команда Google Brain достигла впечатляющих результатов в Переводчике Google, который является частью проекта Google Brain. В сентябре 2016 года команда запустила новую систему — нейронный машинный перевод Google (GNMT), которая представляет собой сквозную систему обучения, способную учиться на большом количестве примеров. Хотя её внедрение значительно повысило качество Переводчика Google для пилотных языков, было очень сложно создать такие улучшения для всех 103 поддерживаемых языков. Для решения данной задачи команда Google Brain смогла разработать многоязыковую версию GNMT, которая расширила предыдущую и позволила осуществлять перевод между несколькими языками. Более того, она позволила выполнять прямой перевод (англ. Zero-Shot Translations) между языковыми парами, которые явным образом не задавались при обучении.[25] Недавно Google анонсировала, что Переводчик Google может совершать перевод при помощи нейронных сетей без расшифровки текста. Это означает, что можно перевести речь, записанную на одном языке, в текст на другом языке без предварительного преобразования речи в текст. Согласно исследователям из Google Brain, этот промежуточный этап можно опустить при использовании нейронных сетей. Чтобы обучить этому систему, ей подали на вход много часов испанской речи с расшифровкой на английском языке. Различные слои нейронных сетей, которые имитируют человеческий мозг, смогли объединить соответствующие фрагменты и последовательно преобразовать звуковую волну в английский текст.[26]
В продуктах GoogleПравить
В настоящее время технология проекта используется в системе распознавания речи в операционной системе Android,[27] поиске по фотографиям в Google+[28] и рекомендациях видео в YouTube.[29]
Команда и местоположениеПравить
Первоначально Google Brain был создан научным сотрудником Google Джеффом Дином и приглашённым из Стэнфорда профессором Эндрю Ыном[4] (позднее Ын покинул проект, чтобы возглавить группу искусственного интеллекта в Baidu[30]). На 2017 год членами команды являются: Анелия Ангелова, Сэми Бенгио, Грег Коррадо, Джордж Дал (исследователь машинного обучения), Майкл Изард, Анжули Каннан, Уго Ларочелле, Квок Ле, Крис Ола, Винсент Ванхоке, Виджей Васудеван и Фернанда Вигас.[31] Крис Латтнерruen, который создал язык программирования Apple Swift, а затем возглавлял команду беспилотных автомобилей Tesla в течение шести месяцев, присоединился к команде Google Brain в августе 2017 года.[32]
Google Brain базируется в Маунтин-Вью и имеет филиалы в Кембридже, Лондоне, Монреале, Нью-Йорке, Сан-Франциско, Торонто, Цюрихе и Амстердаме.[33]
ПризнаниеПравить
Google Brain получил всестороннее освещение в Wired Magazine,[34][12][35] New York Times,[35] Technology Reviewruen,[36][11] National Public Radio[8] и Big Thinkruen.[37]
См. такжеПравить
- Искусственный интеллект
- Глоссарий искусственного интеллектаruen
- Google X
- Лаборатория квантового искусственного интеллектаruen — запущена Google в сотрудничестве с NASA и Ассоциацией космических исследований университетов
- Переводчик Google
- TensorFlow
- Трансформер (модель машинного обучения)
ПримечанияПравить
- ↑ Machine Learning Algorithms and Techniques Архивная копия от 7 октября 2017 на Wayback Machine Research at Google. Retrieved May 18, 2017
- ↑ 1 2 Google Brain Team's Mission (неопр.). Дата обращения: 17 октября 2017. Архивировано из оригинала 14 декабря 2017 года.
- ↑ Google's Large Scale Deep Neural Networks Project (неопр.). Дата обращения: 25 октября 2015. Архивировано 16 февраля 2019 года.
- ↑ 1 2 Using large-scale brain simulations for machine learning and A.I. (неопр.) Official Google Blog (26 июня 2012). Дата обращения: 26 января 2015. Архивировано 6 февраля 2015 года.
- ↑ 1 2 Markoff, John How Many Computers to Identify a Cat? 16,000 (неопр.). New York Times (25 июня 2012). Дата обращения: 11 февраля 2014. Архивировано 9 мая 2017 года.
- ↑ Large Scale Distributed Deep Networks (неопр.) (декабрь 2012). Дата обращения: 25 октября 2015. Архивировано 26 января 2016 года.
- ↑ Astro Teller, Google’s ‘Captain of Moonshots,’ on Making Profits at Google X (неопр.) (16 февраля 2015). Дата обращения: 25 октября 2015. Архивировано 22 октября 2015 года.
- ↑ 1 2 A Massive Google Network Learns To Identify — Cats (неопр.). National Public Radio (26 июня 2012). Дата обращения: 11 февраля 2014. Архивировано 22 февраля 2014 года.
- ↑ Shin, Laura Google brain simulator teaches itself to recognize cats (неопр.). SmartPlanetruen (26 июня 2012). Дата обращения: 11 февраля 2014. Архивировано 22 февраля 2014 года.
- ↑ (12 March 2013). U of T neural networks start-up acquired by Google. Пресс-релиз. Архивировано из первоисточника 8 октября 2019. Проверено 13 March 2013.
- ↑ 1 2 Regalado, Antonio Is Google Cornering the Market on Deep Learning? A cutting-edge corner of science is being wooed by Silicon Valley, to the dismay of some academics. (неопр.) Technology Reviewruen (29 января 2014). Дата обращения: 11 февраля 2014. Архивировано 27 ноября 2015 года.
- ↑ 1 2 Wohlsen, Marcus Google’s Grand Plan to Make Your Brain Irrelevant (неопр.). Wired Magazine (27 января 2014). Дата обращения: 11 февраля 2014. Архивировано 14 февраля 2014 года.
- ↑ Google Acquires UK AI startup Deepmind (неопр.). The Guardian. Дата обращения: 27 января 2014. Архивировано 3 февраля 2014 года.
- ↑ Report of Acquisition, TechCrunch (неопр.). TechCrunch. Дата обращения: 27 января 2014. Архивировано 28 января 2014 года.
- ↑ Oreskovic, Alexei Reuters Report (неопр.). Reuters. Дата обращения: 27 января 2014. Архивировано из оригинала 26 сентября 2015 года.
- ↑ Google Acquires Artificial Intelligence Start-Up DeepMind (неопр.). The Verge. Дата обращения: 27 января 2014. Архивировано 8 июля 2017 года.
- ↑ Google acquires AI pioneer DeepMind Technologies (неопр.). Ars Technica. Дата обращения: 27 января 2014. Архивировано 30 января 2014 года.
- ↑ Google beats Facebook for Acquisition of DeepMind Technologies (неопр.). Дата обращения: 27 января 2014. Архивировано 31 января 2014 года.
- ↑ Google AI invents its own cryptographic algorithm; no one knows how it works (неопр.). arstechnica.co.uk. Дата обращения: 15 мая 2017. Архивировано 10 июня 2017 года.
- ↑ Abadi, Martin; Andersen, David G. Learning to Protect Communications with Adversarial Neural Cryptography (англ.) : journal. — 2016. — arXiv:1610.06918.
- ↑ Dahl, Ryan; Norouzi, Mohammad; Shlens, Jonathon. Pixel Recursive Super Resolution (неопр.). — 2017. — arXiv:1702.00783.
- ↑ Google Brain super-resolution image tech makes "zoom, enhance!" real (неопр.). arstechnica.co.uk. Дата обращения: 15 мая 2017. Архивировано 13 июля 2021 года.
- ↑ Google just made 'zoom and enhance' a reality -- kinda (неопр.). cnet.com. Дата обращения: 15 мая 2017. Архивировано 5 сентября 2021 года.
- ↑ Google uses AI to sharpen low-res images (неопр.). engadget.com. Дата обращения: 15 мая 2017. Архивировано 2 мая 2021 года.
- ↑ Schuster, Mike; Johnson, Melvin; Thorat, Nikhil Zero-Shot Translation with Google’s Multilingual Neural Machine Translation System (неопр.). Google Research Blog. Дата обращения: 15 мая 2017. Архивировано 10 июля 2017 года.
- ↑ Reynolds, Matt Google uses neural networks to translate without transcribing (неопр.). New Scientist. Дата обращения: 15 мая 2017. Архивировано 18 апреля 2021 года.
- ↑ Speech Recognition and Deep Learning (неопр.). Google Research Blog. Google (6 августа 2012). Дата обращения: 11 февраля 2014. Архивировано 6 марта 2014 года.
- ↑ Improving Photo Search: A Step Across the Semantic Gap (неопр.). Google Research Blog. Google (12 июня 2013). Дата обращения: 17 октября 2017. Архивировано 27 марта 2016 года.
- ↑ This Is Google’s Plan to Save YouTube (неопр.). Time (18 мая 2015). Дата обращения: 17 октября 2017. Архивировано 10 сентября 2016 года.
- ↑ Ex-Google Brain head Andrew Ng to lead Baidu's artificial intelligence drive (неопр.). South China Morning Post. Дата обращения: 17 октября 2017. Архивировано 14 января 2017 года.
- ↑ Google Brain team website. Accessed 13.05.2017. https://research.google.com/teams/brain/ Архивная копия от 3 мая 2018 на Wayback Machine
- ↑ Swift creator Chris Lattner joins Google Brain after Tesla Autopilot stint, TechCrunch (14 августа 2017). Архивировано 19 августа 2021 года. Дата обращения: 11 октября 2017.
- ↑ Research at Google (англ.). research.google.com. Дата обращения: 1 августа 2017. Архивировано 3 мая 2018 года.
- ↑ Levy, Steven How Ray Kurzweil Will Help Google Make the Ultimate AI Brain (неопр.). Wired Magazine (25 апреля 2013). Дата обращения: 11 февраля 2014. Архивировано 10 февраля 2014 года.
- ↑ 1 2 Hernandez, Daniela The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI (неопр.). Wired Magazine (7 мая 2013). Дата обращения: 11 февраля 2014. Архивировано 8 февраля 2014 года.
- ↑ Hof, Robert Deep Learning: With massive amounts of computational power, machines can now recognize objects and translate speech in real time. Artificial intelligence is finally getting smart. (неопр.) Technology Reviewruen (23 апреля 2013). Дата обращения: 11 февраля 2014. Архивировано 9 февраля 2014 года.
- ↑ Ray Kurzweil and the Brains Behind the Google Brain (неопр.). Big Thinkruen (8 декабря 2013). Дата обращения: 11 февраля 2014. Архивировано 27 марта 2014 года.