Перевод деловых документов

Автомобили и их детали на английском языке

🕓 25 мая 2018 👁️ 2487

#SPO_TRAININGS# #BLOCK_23510#

Понравилась статья? Поделитесь ею.

перевод на английский, синонимы, антонимы, примеры предложений, определение,значение, словосочетания

Как объяснить машинное обучение простым языком

Машинное обучение уже широко распространено: большинство людей, вероятно, не осознают этого.

«Знаете ли вы это или нет, есть вероятность, что приложения, которые вы используете каждый день, работают на основе машинного обучения, — говорит Билл Брок, вице-президент по разработкам компании Very. «Машинное обучение произвело революцию во многих отраслях; это базовая технология для многих приложений на вашем смартфоне, от виртуальных помощников, таких как Siri, до прогнозирования моделей движения с помощью Google Maps».

Возможно, вы больше заботитесь о точности этого прогноза трафика или реакции голосового помощника, чем о том, что находится под капотом — и это понятно. Но по мере того, как количество вариантов использования машинного обучения продолжает увеличиваться, вам придется объяснять по крайней мере основы технологии людям, не работающим в ИТ, будь то для того, чтобы получить поддержку, продемонстрировать работу своей команды или просто создать улучшение связи и взаимопонимания между отделами. Ваше понимание машинного обучения также может способствовать долгосрочным результатам вашей стратегии искусственного интеллекта.

Для большинства предприятий машинное обучение, вероятно, является сегодня наиболее распространенной формой ИИ.

Если вы еще не используете ИИ или машинное обучение, вскоре вы оцените их потенциал. «Искусственный интеллект как рабочая нагрузка станет основной движущей силой ИТ-стратегии, — недавно сказал нам Даниэль Риек, старший директор по искусственному интеллекту в офисе технического директора Red Hat. «Искусственный интеллект представляет собой трансформационную разработку для ИТ-индустрии: клиенты во всех вертикалях все больше внимания уделяют интеллектуальным приложениям, позволяющим использовать ИИ в своем бизнесе. Это относится к любому рабочему процессу, реализованному в программном обеспечении, — не только в традиционной деловой части предприятий, но и в исследованиях, производственных процессах и, все чаще, в самих продуктах».

[ Получите наш краткий справочник по 10 ключевым терминам искусственного интеллекта для ИТ-руководителей и бизнес-лидеров: Шпаргалка: глоссарий ИИ. ]

[ Читайте также: ИИ и машинное обучение: в чем разница? ]

Что такое машинное обучение?

Это не просто карты или виртуальные помощники. Рассмотрим этот пример из «Руководства по искусственному интеллекту для руководителей» — нашего недавнего исследовательского отчета, проведенного Harvard Business Review Analytic Services. В отчете рассказывается, как машинное обучение использовалось для решения проблемы в Медицинском центре Бет Исраэль Диаконисс: вместимость его операционной была ограничена.

«Машинное обучение с использованием данных от миллиона пациентов, включая количество операций в прошлом, выполненные процедуры, болезни пациентов, пол, возраст, сопутствующие заболевания, лекарства и т. д., определяет, сколько времени в операционной требуется для любого конкретного пациента, », — говорится в отчете. В результате медицинский центр высвободил 30 процентов мощностей операционной.

Это не футуризм журавля в небе, а вещь ощутимого воздействия, и это только один пример. Более того, для большинства предприятий машинное обучение, вероятно, является сегодня наиболее распространенной формой ИИ. У людей есть причина знать хотя бы базовое определение этого термина хотя бы по той причине, что машинное обучение, как упомянул Брок, все больше влияет на их жизнь.

Итак, давайте перейдем к нескольким четким определениям, которые вы можете использовать, чтобы помочь другим понять машинное обучение.

[ Как RPA сочетается с AI и ML? Читайте также: Как объяснить роботизированную автоматизацию процессов (RPA) простым языком. ]

Определения машинного обучения

Машинное обучение делает компьютеры более интеллектуальными без явного обучения их поведению.

«По своей сути машинное обучение — это задача сделать компьютеры более интеллектуальными без явного обучения их поведению. Это достигается за счет выявления закономерностей в данных, что особенно полезно для разнообразных многомерных данных, таких как изображения и медицинские записи пациентов». – Билл Брок, вице-президент по разработке в Very

«В классическом понимании машинное обучение — это тип искусственного интеллекта, который позволяет самообучаться на основе данных, а затем применяет это обучение без необходимости вмешательства человека. На самом деле существует множество различных типов машинного обучения, а также множество стратегий их наилучшего применения». – Фрэн Фернандес, руководитель отдела продуктов Espressive

. «В широком смысле машинное обучение — это подмножество компьютерных наук, которое включает в себя применение статистики к наблюдаемым данным для создания некоторого процесса, который может решить определенную задачу. Это охватывает как структуру ML (сбор данных и изучение их с использованием статистики), так и влияние ML (варианты использования, такие как распознавание лиц и рекомендательные системы)». – Майкл МакКорт, научный сотрудник SigOpt 9.0003

Машинное обучение, искусственный интеллект и глубокое обучение

Это хорошие общие определения машинного обучения, для понимания которых не требуется особых технических знаний. Оттуда все становится более подробным и более сложным. Брок отмечает, например, что машинное обучение — это общий термин, включающий три подкатегории: обучение с учителем, обучение без учителя и обучение с подкреплением.

(Брок ранее поделился с нами в этой истории разницей между контролируемым и неконтролируемым обучением. Он отмечает, что обучение с подкреплением заимствовано из психологических экспериментов: «Машина пытается найти оптимальные действия, которые нужно предпринять, находясь в наборе различных сценариев. Эти действия могут иметь как краткосрочные, так и долгосрочные последствия, требующие от учащегося обнаружения этих связей» 9.0003

Вы также можете углубиться в смежные дисциплины, такие как глубокое обучение. (Если вы хотите сделать именно это, прочитайте нашу статью: Как объяснить глубокое обучение на простом английском языке. ) Тем не менее, для людей, не связанных с ИТ, этот материал может в спешке сбить с толку. Напрашивается вопрос: сколько им на самом деле нужно знать об ML?

«Я не думаю, что нетехническим людям нужно понимать основы машинного обучения, — говорит Фернандес из Espressive. «Вместо этого я считаю, что им нужно понять преимущества машинного обучения. Вместо того, чтобы говорить «машинное обучение означает xyz», им следует сказать: «Благодаря машинному обучению наше предприятие смогло достичь xyz»9.0003

Вы также можете получить визуальное представление, чтобы обсудить AI и ML. Представьте себе набор русских матрешек: ИИ — большой, внутри него — машинное обучение, а под ними — другие когнитивные способности. «Искусственный интеллект — это широкий контейнерный термин, описывающий различные инструменты и алгоритмы, которые позволяют машинам воспроизводить поведение и интеллект человека», — объясняет Дж. П. Баритуго, директор управленческой и ИТ-консалтинговой компании Pace Harmon. Существует множество разновидностей ИИ. Машинное обучение — это одно, но есть также обработка естественного языка (NLP), глубокое обучение, компьютерное зрение и многое другое.

[ Получите наш краткий справочник по 10 ключевым терминам искусственного интеллекта для ИТ-руководителей и бизнес-лидеров: Шпаргалка: глоссарий ИИ. ]

Для тех, кто предпочитает аналогии, Тимоти Хейвенс, адъюнкт-профессор компьютерных систем Уильяма и Глории Джексон в Колледже вычислительной техники Мичиганского технологического университета и директор Института вычислительной техники и киберсистем, сравнивает работу ИИ с обучением ездить на велосипеде: «Вы не говорите ребенку, чтобы он двигал левой ногой по кругу на левой педали в направлении вперед, одновременно двигая правой ногой по кругу… Вы толкаете его и говорите, чтобы он держал велосипед в вертикальном положении. и указал вперед: общая цель. Они падают несколько раз, каждый раз оттачивая свое мастерство», — говорит Хэвенс. «Это ИИ в двух словах».

Машинное обучение — один из способов добиться этого. Он использует статистический анализ для автономного обучения и улучшения своей работы, — объясняет Сара Бернетт, исполнительный вице-президент и выдающийся аналитик консалтинговой и исследовательской фирмы Everest Group.

«[ML] использует различные алгоритмы для анализа данных, выявления закономерностей и создания необходимых выходных данных», — говорит Баритуго из Pace Harmon, добавляя, что машинное обучение — это способность, которая управляет прогнозной аналитикой и прогнозным моделированием.

Как работает машинное обучение?

Если есть один аспект машинного обучения, который вы собираетесь подчеркнуть, говорит Фернандес, это должна быть важность данных, потому что большинство отделов приложили руку к их производству и, при правильном управлении и анализе, извлекают из них выгоду.

«Если вы хотите уделять себе больше времени в будущем и повысить эффективность за счет использования машинного обучения, вам следует подумать о данных, которые вы генерируете во время работы, и о том, как эти данные могут быть доступны и структурированы таким образом, чтобы машинное обучение можно использовать», — советует Фернандес.

Действительно, это очень важная область, где хотя бы общее представление о машинном обучении в других отделах может повысить ваши шансы на успех.

«Если бы люди знали больше о машинном обучении — может быть, не в деталях, но хотя бы об основных концепциях, — тогда они поняли бы, что машинное обучение не «просто работает» само по себе», — говорит МакКорт из SigOpt. «Требуется руководство, структура, данные и время (особенно в случае больших данных), и требуется, чтобы кто-то интерпретировал результаты как во время разработки, так и после развертывания».

Еще одна мотивация помочь другим понять основы, особенно с точки зрения важности данных: полное незнание может увеличить риск предвзятости и других проблем. «Легко слепо доверять результатам алгоритма машинного обучения, но результаты хороши ровно настолько, насколько хороши данные, на которых обучается алгоритм», — говорит Брок.

[ Как защититься от предвзятости ИИ? Читайте также Предвзятость ИИ: 9 вопросов, которые следует задать ИТ-руководителям. ]

Широкое понимание машинного обучения, вероятно, повысит ваши шансы на успех ИИ, а также сохранит разумные ожидания.

Объем разъяснений зависит от ваших целей и организационной культуры, а также от других факторов. Но основная причина дать людям хотя бы краткое руководство состоит в том, что широкое понимание машинного обучения (и связанных с ним концепций, когда это уместно) в вашей компании, вероятно, повысит ваши шансы на успех ИИ, а также сохранит разумные ожидания.

«Машинное обучение может решить проблемы, но ваша компания, внедряющая инструменты машинного обучения, не сможет просто все исправить», — говорит МакКорт. «ML сам по себе — это просто процесс кластеризации, аппроксимации, классификации или проектирования; узнав немного о процессе, в котором работает ML, менее технические люди могут понять, что ML — это только часть полностью успешного процесса принятия разумных решений и совершения разумных действий».

Как лучше всего проповедовать ML? Давайте рассмотрим несколько примеров:

Представляем первую модель ИИ, которая переводит на 100 языков, не полагаясь на английский не опираясь на английские данные.

Это с открытым исходным кодом здесь.

Эта веха является кульминацией многолетней фундаментальной работы искусственного интеллекта Facebook в области машинного перевода. Сегодня мы делимся подробностями о том, как мы создали более разнообразный набор данных для обучения MMT и модель для 100 языков. Мы также выпускаем модель, систему обучения и оценки, чтобы помочь другим исследователям воспроизвести и усовершенствовать многоязычные модели.

Преодоление языковых барьеров с помощью машинного перевода (MT) — один из наиболее важных способов объединить людей, предоставить достоверную информацию о COVID-19 и защитить их от вредоносного контента. Сегодня мы ежедневно выполняем в среднем 20 миллиардов переводов в ленте новостей Facebook благодаря нашим последним разработкам в области машинного перевода с низким уровнем ресурсов и недавним достижениям в области оценки качества перевода.

Типичные системы машинного перевода требуют создания отдельных моделей ИИ для каждого языка и каждой задачи, но этот подход неэффективно масштабируется на Facebook, где люди размещают контент на более чем 160 языках в миллиардах сообщений. Усовершенствованные многоязычные системы могут обрабатывать несколько языков одновременно, но снижают точность, полагаясь на данные на английском языке для преодоления разрыва между исходным и целевым языками. Нам нужна одна модель многоязычного машинного перевода (MMT), которая может переводить любой язык, чтобы лучше обслуживать наше сообщество, почти две трети которого используют язык, отличный от английского.

В результате многолетних исследований машинного перевода в Facebook мы рады объявить об важной вехе: первой единой массовой модели MMT, которая может напрямую переводить 100 × 100 языков в любом направлении, не полагаясь только на англо-ориентированные данные. Наша единая многоязычная модель работает так же хорошо, как и традиционные двуязычные модели, и добилась улучшения на 10 баллов по шкале BLEU по сравнению с англоязычными многоязычными моделями.

Используя новые стратегии интеллектуального анализа данных для создания данных перевода, мы создали первый набор данных «многие ко многим» с 7,5 миллиардами предложений для 100 языков. Мы использовали несколько методов масштабирования, чтобы построить универсальную модель с 15 миллиардами параметров, которая собирает информацию из родственных языков и отражает более разнообразный сценарий языков и морфологию. Мы открываем исходный код этой работы здесь.

Извлечение сотен миллионов предложений для тысяч языковых направлений

Одним из самых больших препятствий при построении модели MMT «многие ко многим» является курирование больших объемов качественных пар предложений (также известных как параллельные предложения) для произвольных направлений перевода, а не с участием английского языка. Гораздо проще найти переводы с китайского на английский и с английского на французский, чем, скажем, с французского на китайский. Более того, объем данных, необходимых для обучения, растет квадратично с количеством поддерживаемых языков. Например, если нам нужно 10 миллионов пар предложений для каждого направления, нам нужно добыть 1 миллиард пар предложений для 10 языков и 100 миллиардов пар предложений для 100 языков.

Мы взяли на себя эту амбициозную задачу по созданию самого разнообразного набора данных MMT «многие ко многим» на сегодняшний день: 7,5 миллиардов пар предложений на 100 языках. Это стало возможным благодаря объединению дополнительных ресурсов интеллектуального анализа данных, которые разрабатывались годами, включая ccAligned, ccMatrix и LASER. В рамках этих усилий мы создали новый LASER 2.0 и улучшили идентификацию языка fastText, что повышает качество майнинга и включает сценарии обучения и оценки с открытым исходным кодом. Все наши ресурсы интеллектуального анализа данных используют общедоступные данные и имеют открытый исходный код.

Новая многоязычная модель Facebook AI «многие ко многим» является кульминацией нескольких лет новаторской работы в области машинного перевода с использованием революционных моделей, ресурсов интеллектуального анализа данных и методов оптимизации. На этой временной шкале отмечены несколько заслуживающих внимания достижений. Кроме того, мы создали наш массивный набор данных для обучения путем майнинга ccNET, который основан на fastText , нашей новаторской работе по обработке представлений слов; наша библиотека LASER для CCMatrix, которая встраивает предложения в многоязычное пространство для встраивания; и CCAligned, наш метод выравнивания документов на основе совпадений URL-адресов. В рамках этих усилий мы создали LASER 2.0, который улучшает предыдущие результаты.

Тем не менее, даже с передовыми базовыми технологиями, такими как LASER 2.0, сбор крупномасштабных обучающих данных для произвольных пар 100 различных языков (или 4450 возможных языковых пар) требует больших вычислительных ресурсов. Чтобы сделать этот тип масштабирования майнинга более управляемым, мы сначала сосредоточились на языках с наибольшим количеством запросов на перевод. Следовательно, мы отдали предпочтение направлениям майнинга с данными самого высокого качества и наибольшим количеством данных. Мы избегали направлений, для которых потребность в переводе статистически редка, таких как исландский-непальский или сингальский-яванский.

Затем мы представили новую стратегию поиска мостов, в которой мы группируем языки в 14 языковых групп на основе лингвистической классификации, географии и культурных сходств. Люди, живущие в странах с языками одной семьи, как правило, общаются чаще, и им нужны качественные переводы. Например, одна группа будет включать языки, на которых говорят в Индии, такие как бенгальский, хинди, маратхи, непальский, тамильский и урду. Мы систематически изучили все возможные языковые пары внутри каждой группы.

Чтобы соединить языки разных групп, мы определили небольшое количество промежуточных языков, которые обычно представляют собой от одного до трех основных языков каждой группы. В приведенном выше примере хинди, бенгальский и тамильский языки были бы промежуточными языками для индоарийских языков. Затем мы изучили данные параллельного обучения для всех возможных комбинаций этих промежуточных языков. Используя эту технику, наш обучающий набор данных получил 7,5 миллиардов параллельных предложений данных, соответствующих 2200 направлениям. Поскольку добытые данные можно использовать для обучения двух направлений заданной языковой пары (например, en->fr и fr->en), наша стратегия добычи помогает нам эффективно разреженно добывать данные, чтобы наилучшим образом охватить все 100×100 (всего 9 языков). ,900) направлений в одной модели.

Чтобы дополнить параллельные данные для малоресурсных языков с низким качеством перевода, мы использовали популярный метод обратного перевода, который помог нам занять первые места на конкурсах WMT International Machine Translation 2018 и 2019 годов. Например, если наша цель — обучить модель перевода с китайского на французский, мы сначала обучим модель для французского на китайский и переведем все одноязычные французские данные для создания синтетического китайского с обратным переводом. Мы обнаружили, что этот метод особенно эффективен в больших масштабах при переводе сотен миллионов одноязычных предложений в параллельные наборы данных. В наших условиях исследования мы использовали обратный перевод, чтобы дополнить обучение направлений, которые мы уже изучили, добавив синтетические данные обратного перевода к добытым параллельным данным. И мы использовали обратный перевод для создания данных для ранее неконтролируемых направлений.

В целом, сочетание нашей стратегии моста и данных с обратным переводом улучшило производительность по 100 направлениям с обратным переводом в среднем на 1,7 BLEU по сравнению с обучением только на добытых данных. Благодаря более надежному, эффективному и высококачественному обучающему набору у нас была хорошая основа для построения и масштабирования нашей модели «многие ко многим».

Мы также получили впечатляющие результаты при нулевых настройках, в которых отсутствуют обучающие данные для пары языков. Например, если модель обучена французско-английскому и немецко-шведскому языкам, мы можем выполнить нулевой перевод между французским и шведским языками. В условиях, когда наша модель «многие ко многим» должна обнулить перевод между направлениями, не относящимися к английскому языку, она была значительно лучше, чем многоязычные модели, ориентированные на английский язык.

Масштабирование нашей модели MMT до 15 миллиардов параметров с высокой скоростью и качеством

Одной из проблем многоязычного перевода является то, что единая модель должна фиксировать информацию на многих разных языках и в различных сценариях. Чтобы решить эту проблему, мы увидели явное преимущество в масштабировании возможностей нашей модели и добавлении параметров, зависящих от языка. Масштабирование размера модели полезно, в частности, для языковых пар с высоким уровнем ресурсов, поскольку они содержат больше всего данных для обучения дополнительной мощности модели. В конечном итоге мы увидели среднее улучшение в 1,2 BLEU, усредненное по всем языковым направлениям, при плотном масштабировании размера модели до 12 миллиардов параметров, после чего наблюдалось уменьшение отдачи от дальнейшего плотного масштабирования. Сочетание плотного масштабирования и разреженных параметров для конкретного языка (3,2 миллиарда) позволило нам создать еще лучшую модель с 15 миллиардами параметров.

Мы сравниваем нашу модель с базовыми двуязычными и англоязычными многоязычными моделями. Мы начинаем с 1,2 миллиарда базовых параметров с 24 слоями кодировщика и 24 слоями декодера и сравниваем англо-ориентированные модели с нашей моделью M2M-100. Далее, если мы сравним 12 миллиардов параметров с 1,2 миллиардами параметров, мы получим улучшение на 1,2 балла BLEU.

Чтобы увеличить размер нашей модели, мы увеличили количество слоев в наших сетях Transformer, а также ширину каждого слоя. Мы обнаружили, что большие модели быстро сходятся и обучаются с высокой эффективностью данных. Примечательно, что эта система «многие ко многим» является первой, использующей Fairscale, новую библиотеку PyTorch, специально разработанную для поддержки конвейерного и тензорного параллелизма. Мы построили эту общую инфраструктуру для размещения крупномасштабных моделей, которые не помещаются на одном графическом процессоре, за счет параллелизма моделей в Fairscale. Мы создали оптимизатор ZeRO, внутриуровневый параллелизм моделей и параллелизм конвейерных моделей для обучения крупномасштабных моделей.

Но недостаточно просто масштабировать модели до миллиардов параметров. Чтобы иметь возможность производить эту модель в будущем, нам необходимо максимально эффективно масштабировать модели с помощью высокоскоростного обучения. Например, во многих существующих работах используется мультимодельный ансамбль, когда несколько моделей обучаются и применяются к одному и тому же исходному предложению для получения перевода. Чтобы уменьшить сложность и объем вычислений, необходимых для обучения нескольких моделей, мы изучили самостоятельную сборку из нескольких источников, которая переводит исходное предложение на несколько языков для повышения качества перевода. Кроме того, мы опирались на нашу работу с LayerDrop и Depth-Adaptive для совместного обучения модели с общим стволом и различными наборами языковых параметров. Этот подход отлично подходит для моделей «многие ко многим», поскольку он предлагает естественный способ разделения частей модели по языковым парам или языковым семьям. Комбинируя плотное масштабирование емкости модели с параметрами, зависящими от языка (всего 3 миллиарда), мы предоставляем преимущества больших моделей, а также возможность изучения специализированных слоев для разных языков.

На пути к одной многоязычной модели для всех

В течение многих лет исследователи искусственного интеллекта работали над созданием единой универсальной модели, способной понимать все языки при выполнении различных задач. Единая модель, поддерживающая все языки, диалекты и модальности, поможет нам лучше обслуживать больше людей, обновлять переводы и в равной степени создавать новые впечатления для миллиардов людей. Эта работа приближает нас к этой цели.

В рамках этих усилий мы наблюдаем невероятно быстрый прогресс в предварительно обученных языковых моделях, тонкой настройке и методах самоконтроля. Это коллективное исследование может еще больше улучшить то, как наша система понимает текст для языков с низким уровнем ресурсов, используя немаркированные данные. Например, XLM-R — это наша мощная многоязычная модель, которая может обучаться на основе данных на одном языке, а затем выполнять задачу на 100 языках с высочайшей точностью. mBART — это один из первых методов предварительной подготовки полной модели для выполнения задач BART на многих языках. А совсем недавно наш новый подход с самоконтролем, CRISS, использует немаркированные данные из множества разных языков для анализа параллельных предложений на разных языках и обучения новых, более совершенных многоязычных моделей итеративным способом.