Онлайн матрицы методом гаусса: Онлайн калькулятор. Решение систем линейных уравнений. Метод Гаусса

Гауссов процесс онлайн-регрессии с разреженной матрицей и приложения машинного зрения

Аннотация

Мы представляем новый алгоритм вывода гауссовского процесса, называемый онлайн-гауссовыми процессами разреженной матрицы (OSMGP), и демонстрируем его достоинства на нескольких приложениях машинного зрения. OSMGP основан на наблюдении, что для ядер с локальной поддержкой матрица Грама обычно разрежена. Поддержание и обновление разреженного фактора Холецкого матрицы Грама можно эффективно выполнять с помощью поворотов Гивенса. Это приводит к точному онлайн-алгоритму, время обновления которого линейно зависит от размера матрицы Грама. Кроме того, если приблизительные обновления допустимы, коэффициент Холецкого можно поддерживать на постоянном уровне, используя гиперболические повороты для удаления определенных строк и столбцов, соответствующих отброшенным обучающим примерам. Мы демонстрируем, что, используя эти матричные понижения, можно включить онлайн-оценку гиперпараметров, не влияя на линейную сложность алгоритма во время выполнения. Алгоритм OSMGP применяется для оценки положения головы и задач визуального отслеживания. Экспериментальные результаты показывают, что предложенный метод точен, эффективен и хорошо обобщает использование онлайн-обучения.

Ключевые слова

• Онлайн-обучение
• Единица измерения инерции
• Разреженная матрица
• Радиальное базисное ядро ​​
• Точка обучения

Эти ключевые слова не были добавлены автором. Этот процесс является экспериментальным, и ключевые слова могут обновляться по мере улучшения алгоритма обучения.

Скачать документ конференции в формате PDF

Ссылки

1. Расмуссен, CE, Уильямс, C.: Гауссовские процессы для машинного обучения. MIT Press, Кембридж (2006)

   МАТЕМАТИКА Google Scholar

2. Снельсон, Э. , Гахрамани, З.: Разреженные гауссовские процессы с использованием псевдовходов. В: Достижения в системах обработки нейронной информации, стр. 1259–1266 (2006)

   . Google Scholar

3. Чато, Л., Оппер, М.: Разреженные гауссовские онлайн-процессы. Нейронные вычисления 14(2), 641–669.(2002)

   Перекрёстная ссылка МАТЕМАТИКА Google Scholar

4. Хинонеро-Кандела, Дж., Расмуссен, К., Уильямс, К.: Аппроксимационные методы регрессии гауссовского процесса. В: Крупномасштабные машины ядра, стр. 203–224. MIT Press, Кембридж (2007)

   Google Scholar

5. Хамерс, Б., Сайкенс, Дж., Мур, Б.Д.: Компактно поддерживаемые ядра RBF для разреживания матрицы Грама в регрессионных моделях LS-SVM. В: Труды Международной конференции по искусственным нейронным сетям, стр. 720–726 (2002)

   Google Scholar

6. «>

   Голуб, Г., Кредит, К.В.: Матричные вычисления. Издательство Университета Джона Хопкинса (1996)

   Google Scholar

7. Кесс, М., Ранганатан, А., Деллаерт, Ф.: Быстрое инкрементальное сглаживание информации о квадратном корне. В: Труды Международной объединенной конференции по искусственному интеллекту, стр. 2129–2134 (2007 г.)

   . Google Scholar

8. Дэвис, Т., Гилберт, Дж., Ларимор, С., Нг, Э.: Алгоритм аппроксимации минимальной степени столбца. ACM Transactions on Mathematical Software 30(3), 353–376 (2004)

   CrossRef MathSciNet МАТЕМАТИКА Google Scholar

9. Керниган, Б., Лин, С.: Эффективная эвристическая процедура для разделения графов. Технический журнал Bell System 49(2), 291–307 (1970)

   CrossRef МАТЕМАТИКА Google Scholar

10. «>

    Чжао, К., Фуюнь, Л., Лев-Ари, Х., Проакис, Дж.: Алгоритмы наименьших квадратов с рекурсивным порядком скользящего окна. IEEE Transactions on Acoustics, Speech, and Signal Processing 42(8), 1961–1972 (1994)

    CrossRef Google Scholar

11. Бьорк, А., Парк, Х., Элден, Л.: Точное занижение значений метода наименьших квадратов. SIAM Journal on Matrix Analysis and Applications 15(2), 549–568 (1994)

    CrossRef MathSciNet МАТЕМАТИКА Google Scholar

12. Крюгер, Н., Поцш, М., фон дер Мальсбург, К.: Определение положения лица и позы с помощью изученного представления на основе размеченных графиков. Image and Vision Computing 15(8), 665–673 (1997)

    CrossRef Google Scholar

13. Ян, Р., Чжан, З.: Отслеживание положения головы на основе модели со стереозрением. В: Материалы Международной конференции по автоматическому распознаванию лиц и жестов, стр. 242–247 (2002 г.)

    Google Scholar

14. Яо, П., Эванс, Г., Калуэй, А.: Использование аффинного соответствия для оценки трехмерной позы лица. В: Труды Международной конференции IEEE по обработке изображений, стр. 919–922 (2001)

    . Google Scholar

15. Рэй, Р., Риттер, Х.: Распознавание ориентации головы человека на основе искусственных нейронных сетей. Транзакции IEEE в нейронных сетях 9(2), 257–265 (1998)

    CrossRef Google Scholar

16. Ли, Ю., Гонг, С., Лидделл, Х.: Поддержка векторной регрессии и классификации на основе многоракурсного обнаружения и распознавания лиц. В: Труды Международной конференции IEEE по автоматическому распознаванию лиц и жестов, стр. 300–305 (2000 г.)

    . Google Scholar

17. Уильямс, О., Блейк, А., Чиполла, Р.: Разреженное и частично контролируемое визуальное картирование с помощью S3GP. В: Труды конференции IEEE по компьютерному зрению и распознаванию образов, том. 1, стр. 230–237 (2006)

    Google Scholar

18. Виола, П., Джонс, М.: Быстрое обнаружение объектов с помощью расширенного каскада простых функций. В: IEEE Conf. по компьютерному зрению и распознаванию образов, том. 1, стр. 511–518 (2001)

    Google Scholar

19. Росс, Д., Лим, Дж., Лин, Р.С., Ян, М.Х.: Инкрементное обучение для надежного визуального отслеживания. Международный журнал компьютерного зрения 1–3, 125–141 (2008)

    Перекрёстная ссылка Google Scholar

20. «>

    Thayananthan, A., Navaratnam, R., Stenger, B., Torr, P., Cipolla, R.: Многомерные векторные машины релевантности для отслеживания. В: Материалы Европейской конференции по компьютерному зрению, том. 3, стр. 124–138 (2006)

    Google Scholar

21. Лоуренс, Н.: Модели скрытых переменных гауссовского процесса для визуализации многомерных данных. В: Достижения в системах обработки нейронной информации, стр. 329.–336 (2004)

    Google Scholar

22. Уильямс О., Блейк А., Чиполла Р.: Разреженная байесовская регрессия для эффективного визуального отслеживания. IEEE Transactions on Pattern Analysis and Machine Intelligence 27(8), 1292–1304 (2005)

    CrossRef Google Scholar

Ссылки на скачивание

Информация об авторе

Авторы и организации

1. Honda Research Institute, Mountain View, CA 94041, США

   Ananth Ranganathan

2. Университет Калифорнии, Merced, CA 95344, USA

   Ming-Hsuan

Authran

669

9999999969

99999999999999. публикации

Вы также можете искать этого автора в PubMed Google Scholar

Ming-Hsuan Yang

Просмотр публикаций автора

Вы также можете искать этого автора в PubMed Google Академия

Editor information

Editors and Affiliations

1. Computer Science Department, University of Illinois at Urbana Champaign, 3310 Siebel Hall, Urbana, IL 61801, USA

   David Forsyth

2. Department of Computing, Oxford Brookes University, OX33 1HX, Wheatley, Oxford, UK

   Philip Torr

3. Департамент инженерных наук, Оксфордский университет, Parks Road, OX1 3PJ, Oxford, UK

   Andrew Zisserman

Electronic Supplementary Material

Supplementary material (5,797 KB)

Supplementary material (13,720 KB)

Supplementary material (10,152 KB)

Supplementary material (7,641 KB)

Права и разрешения

Перепечатка и разрешения

Информация об авторских правах

© 2008 Springer-Verlag Berlin Heidelberg

Об этой статье

Онлайновая обратная ковариационная матрица: применение к прогнозирующему распределению гауссовского процесса title={Онлайн обратная ковариационная матрица: в приложении к прогнозирующему распределению гауссовского процесса}, автор = {Сели Сити Шолихат и Сапто Вахью Индратно и Утривени Мухайяр}, Journal={Материалы Международной конференции по преподаванию и обучению математике, науке и технологиям 2019 г.

 – ICMSTTL 2019}, год = {2019} }

• S. S. Sholihat, S. Indratno, U. Mukhaiyar
• Опубликовано 28 июня 2019 г.
• Компьютерные науки
• Международная конференция 2019 года по математике, науке и обучению и обучению ICMSTTL 2019

. нуждается в вычислении матрицы обратной ковариации. Гауссовский процесс — это непараметрический метод статистического анализа, который применялся в некоторых исследованиях. Для гауссовского процесса требуется вычисление матрицы обратной ковариации по заданным данным. Обратная матрица гауссовского процесса становится интересной проблемой в гауссовском процессе, когда она применяется в реальном времени и имеет большие числовые данные. Увеличение количества данных и размера ковариационной матрицы требует эффективного вычислительного алгоритма. Некоторые… 

Просмотр на ACM

doi.org

Алгоритм гиперпараметра с меньшим последним числом для MCMC в онлайн-схеме: при обновлении гиперпараметра онлайн-гауссовского процесса

Результат показал, что алгоритм LLNH хорошо работает при оценке гиперпараметров и требует меньше времени -вычисление по сравнению с оффлайн MCMC.

Моделирование гетероскедастического обменного курса IDR-USD с учетом интервенции и факторов выбросов

Нестационарность данных во временном ряду может быть вызвана наличием интервенций, выбросов и гетероскедастических эффектов. Выбросы могут представлять собой вмешательство, которое создает…

ПОКАЗАНЫ 1–10 ИЗ 19 ССЫЛОК

СОРТИРОВАТЬ ПОРелевантность Наиболее влиятельные документыНедавность

Быстрое вычисление матрицы обратной ковариации на основе рекурсивного метода порядка элементов для пространственно-временной адаптивной обработки

Новый метод рекурсии порядка элементов предлагается для вычисления обратной матрица пространственно-временной ковариации для весового вектора STAP и применима для практической бортовой фазированной радиолокационной системы.

Гауссовы процессы для машинного обучения

Курс является всеобъемлющим и самодостаточным, предназначенным для исследователей и студентов, изучающих машинное обучение и прикладную статистику, и посвящен проблеме контролируемого обучения как для регрессии, так и для классификации.

A Monte Carlo Approach to Sparse Approximate Inverse Matrix Computations

• J. Strassburg, V. Alexandrov

• Computer Science

  ICCS

• 2013

Sparse On-Line Gaussian Processes

• L. Csató, M. Opper

• Информатика

  Нейронные вычисления

• 2002

Подход к разреженным представлениям моделей гауссовского процесса (GP) (которые являются байесовскими типами ядерных машин) для преодоления их ограничений для больших наборов данных разработан на основе комбинации байесовского онлайн-алгоритма и последовательного построения соответствующей подвыборки данных, которая полностью определяет предсказание модели GP.

Справочник по обратной инженерии

• К. Вудбери

• Математика

• 2002

Информация и неопределенные параметры Выводы положительные.

Уменьшение размерности для эмуляции гауссовского процесса: приложение к влиянию батиметрии на высоту цунами

Совместная структура, объединяющая эмуляцию с уменьшением размерности, введена для того, чтобы преодолеть это препятствие и дать ответ на проблему уменьшения размерности при эмуляции для широкого круга проблем моделирования, которые невозможно решить с помощью существующих методов.

Структура гауссовского процесса для моделирования инструментальной систематики: приложение к спектроскопии пропускания

• Н. Гибсон, С. Эйгрейн, У. Эксетер

• Информатика

• 2011

В этой статье предлагается новый метод вывода параметров транзита в присутствии систематического шума с использованием гауссовских процессов, метод, широко используемый в сообществе машинного обучения для байесовской регрессии и задач классификации.