Квинтэссенция линейной алгебры для специалиста по данным — часть A | by Deepak Karunakaran
Серия учебных пособий
Эта серия учебных пособий, состоящая из нескольких частей, является попыткой кратко и интуитивно охватить концепции линейной алгебры, не упуская при этом сложных понятий. Первая часть охватывает основные определения, необходимые для изучения этой области.
Фото Владимира Грищенко на UnsplashЦель этой статьи, первой из нескольких частей, состоит в том, чтобы понять основные определения в линейной алгебре и начать думать в терминах матриц и векторов. Это также посвящение в понимание и программную проверку концепций.
Если какая-либо часть или концепция неясны, пожалуйста, оставьте комментарий ниже.
Начнем с матрицы , названной H (для счастья!?!) . Матрица , кстати , это просто прямоугольный массив чисел, расположенных в строках и столбцах.
Матрица H состоит из трех строк векторов которые расположены следующим образом:
и захвачены с другой стороны, содержит три столбец векторов расположены следующим образом:
Теперь обратите внимание, что вектор-столбец в середине находится в том же направлении , что и последний вектор-столбец, потому что средний вектор на самом деле является скалярным кратным 2 последнего.
Теперь, когда мы увидели, как скаляр умножается на вектор, давайте посмотрим, как вектор x умножается на матрицу H .
Как видно, каждый столбец матрицы H умножается на элементы вектора х = [ х₁, х₂, х₃ ] , а затем сложить вместе.
По определению это представляет собой линейную комбинацию столбцов H.
Эта линейная система охватывает двумерную плоскость.
Другими словами, каждый вектор в своей плоскости может быть получен с помощью линейной комбинации векторов-столбцов [1 2 3] и [4 6 14] .
Обратите внимание, что если вектор-столбец [2 3 7] не был в том же направлении, что и вектор-столбец [4 6 14] (или [1 2 3] ) , , то линейная комбинация столбцов H фактически охватывала бы все трехмерное пространство.
Теперь, по определению, пространство столбцов матрицы H представляет собой линейную комбинацию ее столбцов, которая в данном случае, как только что показано, представляет собой плоскость .
Умножение матриц
Увидев умножение скаляра на вектор и вектора на матрицу, теперь давайте рассмотрим умножение двух матриц, как показано ниже.
Две матрицы можно перемножить, только если количество столбцов в левой матрице равно количеству строк в правой матрице.
Как вы уже догадались, умножение матриц — это , а не коммутативное , за исключением особых случаев. Именно поэтому термы: справа и слева .
Эмпирическое правило для умножения матриц состоит в том, что выходная матрица имеет такое же число строк , как левая матрица и ее количество столбцов равно количеству строк правой матрицы.
Следовательно, для умножения матриц, рассматриваемого в нашем примере, матрица 3 (строки) x 2 (столбцы) на слева при умножении на матрицу 2 x 3 на справа должна давать матрицу 3 x 3.
Теперь давайте посмотрим, как выполняется умножение. (один из многих способов!)
Для выходной матрицы умножения ее первый вектор-столбец будет линейной комбинацией двух векторов-столбцов [ 1 2 3 ] и [ 4 6 14 ] левой матрицы с первым вектором-строкой правой матрицы, как показано ниже:
Повторяя это вычисление для всех столбцов вы обнаружите, что результатом умножения матриц является сама матрица H .
Давайте проверим правильность этого с помощью SymPy.
Код, соответствующий In[45] и In[49], определяет две матрицы, а In[52] выполняет умножение. Результат такой же, как Н .
Обратите внимание, что в приведенном ниже коде умножение матриц не является коммутативным. Когда мы меняем местами левую и правую матрицы, мы получаем другой результат.
Однако обратите внимание, что наше эмпирическое правило по-прежнему выполняется, и выходная матрица теперь имеет размеры 2 x 2.
Обратите внимание, что две матрицы, которые мы только что перемножили (обозначенные выше как C и R ), по существу являются коэффициентов матрицы H .
На самом деле матрица R является специальной матрицей, которая называется сокращенной ступенчатой формой строк матрицы H . Мы увидим, что это такое и как оно определяется, но давайте подытожим то, что мы видели до сих пор.
Мы рассмотрели скаляры, векторы и матрицы. Затем мы определили пространство столбцов матрицы. И видел, как вектор умножается на матрицу. И только что мы видели, как перемножаются две матрицы.
Теперь давайте вернемся к другим определениям.
Из двух факторов матрицы H, показанных выше, столбцы матрицы C определены как базис из пространство столбцов из H и строки матрицы R определены как основа из рядное пространство из H .
По сути, базис векторного пространства представляет собой набор таких элементов, что каждый элемент векторного пространства является их уникальной линейной комбинацией. Таким образом, каждый элемент пространства столбцов, который в данном случае является плоскостью, может быть порожден линейной комбинацией элементов в С .
Аналогично, каждый элемент в пространстве строк H может быть сгенерирован уникальной линейной комбинацией векторов R .
Но, во-первых, пространство строк , аналогичное пространству столбцов, представляет собой не что иное, как линейную комбинацию векторов-строк.
(Подождите! Это будет более ясно по мере продвижения вперед.)
Ранг матрицы
Кроме того, ранг матрицы определяется как максимальное число линейно независимых векторов-столбцов в матрице . Как вы правильно догадались, ранг нашей матрицы Н это 2 .
Каков ранг другой матрицы H₁ , показанной ниже?
Ранг этой матрицы также равен 2.
Это , потому что первый вектор-столбец является суммой второго вектора-столбца с удвоенным значением последнего вектора-столбца. (Позже мы также проверим, что это так, используя SymPy.)
Другими словами, первый вектор-столбец равен зависит от двух других векторов-столбцов.
Следовательно, у нас есть только 2 независимых вектора-столбца.
Более того, ранг матрицы также является максимальным числом линейно независимых строк векторов в матрице. Это означает, что для матрицы ранг строки равен рангу столбца.
Эти новые определения могут немного сбивать с толку, но все это станет кристально ясным, когда мы углубимся в эшелон из строк формы матрицы.
Одним из полезных приложений линейной алгебры является решение системы линейных уравнений. И метод исключения Гаусса — это алгоритм, который используется для этого. Мы говорим об этом алгоритме, потому что он использует метод для создания сокращенной эшелонированной формы строки из матрицы.
Итак, давайте узнаем это, прежде чем двигаться дальше.
Исключение по Гауссу или редукция строк — это алгоритм линейной алгебры, используемый для решения системы линейных уравнений.
Это включает в себя представление системы линейных уравнений в виде матрицы и последующее выполнение набора операций над строками над матрицей.
Метод исключения Гаусса итеративно использует одну из трех элементарных операций над строками над матрицей (представляющей систему линейных уравнений) для приведения матрицы к эшелонированной форме из строк и . Элементарные операции:
- Умножение строки на ненулевое число,
- Замена двух строк местами.
- Добавление кратного одной строки к другой строке.
Поясним это на примере. Я воспроизвожу пример из Википедии, чтобы проиллюстрировать работу этого метода.
Рассмотрим систему линейных уравнений:
Линейная система уравнений. (источник: Википедия)В качестве первого шага линейные уравнения представлены в виде расширенной матрицы, как показано ниже. По сути, коэффициенты переменных используются для формирования матрицы 3 x 3, дополненной вектором (для констант).
Теперь с помощью ряда операций со строками матрица преобразуется в ступенчатую форму.
Например, с помощью операции строки вектор второй строки расширенной матрицы заменяется суммой вектора второй строки с одной третью вектора первой строки.
Это показано ниже.
После ряда операций над строками получается эшелонированная форма или верхняя треугольная матрица. Обратите внимание, что (по определению) верхняя треугольная матрица имеет нули ниже диагонали (2, ½, -1) матрицы.
Продолжая операции со строками, метод успешно решает для x , y и z .
Метод исключения Гаусса для решения системы линейных уравненийЕдиничная матрица 3 x 3 в расширенной матрице представляет собой сокращенную эшелонированную форму строк .
Ранг матрицы — это количество ненулевых строк в эшелонированной форме строки матрицы. Таким образом, для расширенной матрицы, соответствующей системе линейных уравнений, ранг равен 9.0012 3 .
Ранг строки = Ранг столбца
Теперь вернемся к нашей матрице H и соединим все точки, чтобы получить полную картину, пока докажем следующее.
Доказательство : строка с рангом матрицы всегда равна столбцу с рангом .
Так почему же сокращенная ступенчатая форма строки H , т. е. R , является основой ее пространства строки? Это связано с тем, что каждая операция со строками, необходимая для H, чтобы добраться до R (как показано при решении системы уравнений), представляет собой не что иное, как линейную комбинацию векторов-строк Н . Таким образом, мы всегда можем вернуться к векторам-строкам H из R, , обратив их.
Кроме того, векторы в R независимы, поскольку они сокращены до 0 с и 1 с, где это возможно. (как показано ранее, для матрицы, связанной с системой уравнений, соответствующее R было единичной матрицей , которая имеет единицы по диагонали и нули в других местах).
Таким образом, R является основой (не единственной!) строки из Н .
И, показав, что CR = H , , мы показали, что каждая строка в H является линейной комбинацией строк в R , а также каждый столбец в H является линейной комбинацией векторов-столбцов. в С . (Вот как мы определили умножение матриц!)
Поскольку количество векторов-столбцов в C и количество векторов-строк в R должны быть равны, для CR = H , ранг строки должен совпадать с рангом столбца.
(Если у вас все еще есть сомнения, не стесняйтесь комментировать.)
Давайте проверим это программно для наших матриц, используя python.
Рассчитаем ступенчатую форму строки нашей матрицы H , используя библиотеку SymPy в Python.
В приведенном выше фрагменте кода мы определяем ступенчатую форму строки матрицы H. Форма ступенчатой строки такая же, как использовалась ранее.
Теперь давайте определим форму эшелона строки транспонировать из H . Транспонирование матрицы переворачивает ее по диагонали так, что строки становятся столбцами.
Таким образом, чтобы убедиться, что ранг столбца и ранг строки матрицы H равны, мы определяем ступенчатую форму строк транспонированной матрицы.
Эшелонированная форма строки , транспонированная из H , как показано в выходных данных выше. Опять же, количество ненулевых строк равно 2, , что снова показывает, что ранг строки и ранг столбца равны.
Тем временем мы забыли о другой нашей матрице H₁ , для которой мы хотели сделать ранговую факторизацию. Вот код для использования SymPy.
Основа пространства столбцов H₁ содержит только первые два вектора-столбца H₁ . Поскольку этого достаточно, чтобы сгенерировать любой другой вектор в пространстве столбцов.
База пространства строк также содержит всего 2 векторов. Как и ожидалось!
Ранговая факторизация, представленная в этой статье, является первым из многих интересных способов разбить матрицу на более простые, свойства которых чрезвычайно полезны для эффективности вычислений и анализа.
Фото Antoine Dautry на UnsplashВ следующих частях этого урока мы познакомимся с этими матрицами и их свойствами, а также рассмотрим их применение.
Во многом моим пониманием линейной алгебры я обязан профессору Гилберту Странгу из Массачусетского технологического института, а мотивацией к изучению ее интересных приложений я обязан профессору Г. Н. С. Прасанне из IIITB. На многие элементы этой серии руководств повлияли их лекции.
🔵Найди меня на Linkedin 🔵
Расширенная матрица линейной системы с тремя переменными и четырьмя уравнениями имеет ранг 4. Что вы можете сказать о решениях этой системы?
Цитата страницы Начать эссе значок-вопрос Спросите репетитораНачать бесплатную пробную версию
Скачать PDF PDF Цитата страницы Цитировать Поделиться ссылкой ДелитьсяУкажите эту страницу следующим образом:
»
Расширенная матрица линейной системы с тремя переменными и четырьмя уравнениями имеет ранг 4.
Что вы можете сказать о решениях этой системы?» eNotes Editorial , 24 февраля 2013 г., https://www.enotes.com/ помощь с домашним заданием/дополненная-матрица-линейная-система-с-тремя-418794.
По состоянию на 9 марта 2023 г.
Ответы экспертов
Допустим, система
`a_{11}x+a_{12}y+a_{13}z=b_1`
`a_{21}x+a_{22}y+a_{23 }z=b_2`
`a_{31}x+a_{32}y+a_{33}z=b_3`
`a_{41}x+a_{42}y+a_{43}z=b_4,`
так расширенная матрица
`[[a_{11},a_{12},a_{13},b_1],[a_{21},a_{22},a_{23},b_2],[a_{31 },a_{32},a_{33},b_3],[a_{41},a_{42},a_{43},b_4]].`
Чтобы иметь ранг 4, столбцы должны быть независимыми , поэтому никакая линейная комбинация первых трех столбцов не может привести к четвертому столбцу. Другими словами, система не имеет решений.
Это частный случай описанной по ссылке теоремы, которая гласит, что система уравнений имеет решение тогда и только тогда, когда ранг матрицы коэффициентов равен рангу расширенной матрицы.
Здесь наибольший ранг, который может иметь матрица коэффициентов, равен 3 (поскольку столбцов 3), поэтому решения быть не может.
См. eNotes без рекламы
Запустите 48-часовую бесплатную пробную версию
Уже зарегистрированы? Войдите здесь.
Дополнительное чтение
- https://en.wikipedia.org/wiki/Рауч%C3%A9%E2%80%93Капелли…
Утверждено редакцией eNotes
Математика
Последний ответ опубликован 07 сентября 2010 г.
в 12:47:25.
Что означают буквы R, Q, N и Z в математике?
14 Ответы педагога
Математика
Последний ответ опубликован 09 октября, 2017, 00:54:39
Добавьте 1 плюс 2 плюс 3 плюс 4. . . вплоть до 100.
3 Ответа воспитателя
Математика
Последний ответ опубликован 25 февраля 2016 г. в 18:48:45.
Сколько времени (в часах) займет ваше путешествие, если вы проедете 350 км со средней скоростью 80 км/ч? Какова формула с данными: время, расстояние, скорость или скорость?
1 Ответ воспитателя
Математика
Последний ответ опубликован 3 октября 2011 г. в 14:12:01.
Этот предел представляет собой производную некоторой функции f при некотором числе a. укажите это f и a. lim h->0 [(4-й корень из)(16+h)-2]/h a=? ф=?
1 Ответ учителя
Математика
Последний ответ опубликован 23 мая 2012 г.