| PyTorch | |
|---|---|
 | |
| Тип | Библиотека машинного обучения и глубинного обучения |
| Автор | Adam Paszke, Sam Gross, Soumith Chintala, Gregory Chanan |
| Написана на | Python, C++, CUDA |
| Операционная система | Linux, macOS, Windows |
| Первый выпуск | октябрь 2016 |
| Последняя версия | 1.0.0 (2018-12-07) |
| Сайт | pytorch.org |
PyTorch — библиотека машинного обучения для языка Python с открытым исходным кодом, созданная на базе Torch[1][2][3]. Используется для обработки естественного языка.[4] Разрабатывается преимущественно группой искусственного интеллекта Facebook,[5][6][7]. Библиотека "Pyro" компании Uber для вероятностного программирования[en] основана на PyTorch.[8]
PyTorch предоставляет две основные высокоуровневые модели:[9]
- Тензорные вычисления (по аналогии с NumPy) с развитой поддержкой ускорения на GPU
- Глубокие нейронные сети на базе системы autodiff
Тензоры PyTorch
Тензоры не представляют собой чего-либо особенного, просто являясь многомерными массивами. Тензоры PyTorch (Tensors) похожи массивы пакета numpy, но дополнительно могут обрабатываться на видеоускорителях. PyTorch поддерживает различные типы тензоров.[10]
Модули
Модуль Autograd
PyTorch использует метод автоматической дифференциации. Производится запись вычислений, произведенных в прямом направлении, затем производится воспроизведение в обратном порядке для вычисления градиентов. Этот метод особенно полезен при построении нейронных сетей, так как позволяет рассчитывать дифференциальные поправки параметров одновременно с прямым проходом.
Модуль Optim
torch.optim — модуль, реализующий несколько алгоритмов оптимизации, используемых при построении нейронных сетей. Реализовано большинство наиболее часто используемых методов.
Модуль nn
Модуль PyTorch autograd позволяет легко определять вычислительные графы и работать с градиентами, однако может быть слишком низким уровнем для определения сложных нейронных сетей. Более высокоуровневой абстракцией для таких применений является модуль nn.
См. также
Примечания
- ↑ Yegulalp, Serdar. Facebook brings GPU-powered machine learning to Python, InfoWorld (19 January 2017). Проверено 11 декабря 2017.
- ↑ Lorica, Ben Why AI and machine learning researchers are beginning to embrace PyTorch. O'Reilly Media (3 August 2017). Проверено 11 декабря 2017.
- ↑ Ketkar, Nikhil. Deep Learning with Python : [англ.]. — Apress, Berkeley, CA, 2017. — P. 195–208. — ISBN 9781484227657. — DOI:10.1007/978-1-4842-2766-4_12.
- ↑ Natural Language Processing (NLP) with PyTorch — NLP with PyTorch documentation (англ.). dl4nlp.info.
- ↑ Patel, Mo. When two trends fuse: PyTorch and recommender systems (англ.), O'Reilly Media (7 December 2017).
- ↑ Mannes, John. Facebook and Microsoft collaborate to simplify conversions from PyTorch to Caffe2 (англ.), TechCrunch. «FAIR is accustomed to working with PyTorch — a deep learning framework optimized for achieving state of the art results in research, regardless of resource constraints. Unfortunately in the real world, most of us are limited by the computational capabilities of our smartphones and computers.».
- ↑ Arakelyan, Sophia Tech giants are using open source frameworks to dominate the AI community (англ.) ?. VentureBeat (29 ноября 2017).
- ↑ Uber AI Labs Open Sources Pyro, a Deep Probabilistic Programming Language (англ.), Uber Engineering Blog (3 ноября 2017).
- ↑ PyTorch – About (недоступная ссылка). pytorch.org. Проверено 11 июня 2018. Архивировано 15 июня 2018 года.
- ↑ An Introduction to PyTorch – A Simple yet Powerful Deep Learning Library. analyticsvidhya.com. Проверено 11 июня 2018.
Ссылки
- pytorch.org — официальный сайт PyTorch
- https://habr.com/post/334380/
- https://habr.com/company/otus/blog/358096/
Данная страница на сайте WikiSort.ru содержит текст со страницы сайта "Википедия".
Если Вы хотите её отредактировать, то можете сделать это на странице редактирования в Википедии.
Если сделанные Вами правки не будут кем-нибудь удалены, то через несколько дней они появятся на сайте WikiSort.ru .