Wykład 2

2.1.2 Rozkład Taylora funkcji wielu zmiennych

Podobnie, jak w przypadku funkcji jednej zmiennej, rozkład Taylora zależy od pochodnych coraz wyższych rzędów. W dalszym wykładzie potrzebne nam będzie jedynie przybliżenie Taylora do rzędu 2.

Definicja.Gradientem funkcji wielu zmiennych (Subscript[x, 1]), (Subscript[x, 2]),  ... , (Subscript[x, n]) nazywamy wektor:

∇f (x)=(({{(∂_((Subscript[x, 1]))) f (x)}, {(∂_((Subscript[x, 2]))) f (x)}, {...}, {(∂_((Subscript[x, n]))) f (x)}})),

gdzie (∂_((Subscript[x, i]))) f(x) jest pochodną cząstkową funkcji f względem zmiennej (Subscript[x, i]) w punkcie x.

Definicja. Hesjanem funkcji wielu zmiennych (Subscript[x, 1]), (Subscript[x, 2]),  ... , (Subscript[x, n]) nazywamy macierz:

(∇^2) f (x)=(({{(Subscript[((∂^2)), (Subscript[x, i]), (Subscript[x, j])])f (x)}})),

gdzie (Subscript[((∂^2)), (Subscript[x, i]), (Subscript[x, j])])f(x) jest pochodną cząstkową funkcji f względem zmiennych (Subscript[x, i]) oraz (Subscript[x, j])w punkcie x, 
(obliczanych w tym porządku).

Twierdzenie.Hesjan funkcji klasy (C^2) jest symetryczny

Twierdzenie (rozkład Taylora). Funkcja klasy (C^2) zdokładnością do wyrazów drugiego rzędu ma w otoczeniu punktu \(TraditionalForm\`\(\(x\&_\)\(\ \ \)\)\)rozkład:

\(f \((x)\) ≈ 
      f \((x\&_)\) + ∇f \(\((x\&_)\)\^T\) \((x - 
              x\&_)\) + \(1\/2\) \(\((x - x\&_)\)\^T\) ∇\^2 
            f \((x\&_)\) \((x - x\&_)\)\)

Znak ≈ należy rozumieć  w ten sposób, że dla h dostatecznie małego zachodzi jeden z dwóch wzorów:

\(f \((x\&_ + h)\) = 
      f \((x\&_)\) + ∇f \(\((x\&_ + θ\ h)\)\^T\) 
          h, 
f \((x\&_ + h)\) = 
      f \((x\&_)\) + ∇f \(\((x\&_)\)\^T\) 
          h + \(1\/2\) \(h\^T\) ∇\^2 f \((x\&_ + θ\ h)\) 
          h\)

dla pewnego θ ∈(0,1)

Przykład 2.2 (Rozkład Taylora)

Rozwińmy w szereg Taylora w otoczeniu punktu \(TraditionalForm\`x\&_ = \((1, 2, 3)\)\)  funkcję

f (x, y, z) = 
      (x^3) + 12  x (y^2) + 2  (y^2) + 5  (z^2) + x (z^4)

Łatwo obliczyć:

\(f \((x\&_)\) = 183\), ∇f (x)=(({{(∂_x) f (x, y, z)}, {(∂_y) f (x, y, z)}, {(∂_z) f (x, y, z)}}))=(({{3  (x^2) + 12  (y^2) + (z^4)}, {4  y + 24  x y}, {2  z (5 + 2  x (z^2))}})), \(∇f \((x\&_)\)\)=(({{132}, {56}, {138}})),
(∇^2) f (x)=(({{6  x, 24  y, 4  (z^3)}, {24  y, 4 + 24  x, 0}, {4  (z^3), 0, 2 (5 + 6  x (z^2))}})), \(∇\^2 f \((x\&_)\)\)=(({{6, 48, 108}, {48, 28, 0}, {108, 0, 118}}))

Po podstawieniu, otrzymamy rozwinięcie w szereg Taylora w otoczeniu punktu \(TraditionalForm\`x\&_ = \((1, 2, 3)\)\):

f (x, y, z)≈183+(132, 56, 138)(({{x - 1}, {y - 2}, {z - 3}}))+(x - 1, y - 2, z - 3)(({{6, 48, 108}, {48, 28, 0}, {108, 0, 118}}))(({{x - 1}, {y - 2}, {z - 3}}))

co po wykonaniu działań da wielomian drugiego stopnia trzech zmiennych x, y, z :

535 - 294  x + 3  (x^2) - 48  y + 48  x y + 14  (y^2) - 324  z + 
      108  x z + 59  (z^2)

Ograniczając się jedynie do wyrazów pierwszego stopnia mamy :

-475 + 132  x + 56  y + 138  z

Dokładna wartość funkcji f(x) w punkcie \(TraditionalForm\`x\&_ = \((1.01, 2.01, 3.01)\)\) wynosi 186.2832791301. Z przybliżenia liniowego otrzymamy wartość 186.26; przybliżenie wielomianem stopnia 2 ma wartość 186.283200000000. Jak widać, w bliskim otoczeniu punktu \(TraditionalForm\`x\&_\) dokładność jest dobra i przybliżenie wielomianem stopnia 2 jest istotnie dokładniejsze.

Co innego w dalszej odległości od punktu \(TraditionalForm\`x\&_\). Np w punkcie (0,0,0) wartość rzeczywista wynosi 0, wartość z przybliżenia liniowego -475 a z przybliżenia kwadratowego 535. ◼

2.2 Warunek konieczny istnienia minimum

Niech funkcja f(x) jest różniczkowalna w pewnym obszarze. Przypuśćmy, że w punkcie \(TraditionalForm\`\(x\^*\)\) tego obszaru jest minimum lokalne, to znaczy, że w pewnym otoczeniu \(TraditionalForm\`\(\(U(\(x\^*\))\)\(\ \)\)\)punktu \(TraditionalForm\`\(x\^*\)\)zachodzi nierówność \(TraditionalForm\`f(\(x\^*\)) < f(x)\).
	Wtedy funkcja 
	g (u)=f((SuperStar[(Subscript[x, 1])]),...,u,...(SuperStar[(Subscript[x, r])]))
	ma minimum w punkcie \(TraditionalForm\`u = \(x\_i\^*\)\). Warunkiem koniecznym istnienia minimum jest \(TraditionalForm\`0 = \(\(\(dg(
                  u)\)\/du\)/\((u = \(x\_i\^*\))\) = ∂\_\(x\_i\)\ \(f(\(x\^*\))\)\)\)

Udowodniliśmy więc

Twierdzenie. Warunkiem koniecznym istnienia minimum w punkcie \(TraditionalForm\`\(x\^*\)\) jest zachodzenie równości

\(\(\(∇f \((\(x\^*\))\)\)\(=\)\(0\)\(\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \)\)\)

Definicja. Punkty spełniające warunek (2.2.3) nazywamy punktami stacjonarnymi funkcji.

2.3 Warunek dostateczny istnienia minimum

Niech f(x)  ma pierwsze i drugie pochodne cząstkowe ciągłe.

Twierdzenie. Warunkiem dostatecznym  istnienia minimum w punkcie \(TraditionalForm\`\(x\^*\)\) jest zachodzenie nierówności

\(\(\(\(d\^T\) \((∇\^2 f \((\(x\^*\))\))\) 
        d\)\(\ \)\(>\)\(0\)\(\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \)\)\)

dla każdego d.

Definicja. Macierz A spełniającą dla każdego d warunek

\(\(\(\(d\^T\) 
        A\ d\)\(\ \)\(>\)\(0\)\(\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \)\)\)

nazywamy macierzą dodatnio określoną

Dowód twierdzenia.

Istnieje otoczenie U punktu 0 takie, że dla h z tego otoczenia zachodzą warunki:

\(f \((\(x\^*\) + h)\) = 
      f \((\(x\^*\))\) + ∇f \(\((\(x\^*\))\)\^T\) 
          h + \(1\/2\) \(h\^T\) ∇\^2 f \((\(x\^*\) + θ\ h)\) 
          h, 
0 < θ < 1, \ 
    h ≠ 0\)
\(\(\(\(d\^T\) \((∇\^2 f \((\(x\^*\))\))\) 
        d\)\(\ \)\(>\)\(0\)\(\ \ \ \ \ \)\)\)

dla dowolnego d.
Z warunku koniecznego istnienia minimum wiemy, że w tym otoczeniu

\(∇f \((\(x\^*\))\) = 0\)

Z ciągłości drugich pochodnych cząstkowych mamy, że dla dowolnego d
				\(\(d\^T\) ∇\^2 f \((\(x\^*\) + θ\ h)\) d > 0\)
Stąd

\(f \((\(x\^*\) + h)\) - 
        f \((\(x\^*\))\) = \(1\/2\) \(h\^T\) ∇\^2 
            f \((\(x\^*\) + θ\ h)\) h > 0\)

To kończy dowód ■

Wiadomo, że macierz A jest dodatnio określona wtedy i tylko wtedy, gdy wszystkie jej minory główne są dodatnie.

Definicja. Minorem głownym (Subscript[A, k]) macierzy \(TraditionalForm\`A = \((a\_ij)\)\) nazywamy wyznacznik macierzy (({{({{(Subscript[a, 11]), (Subscript[a, 12])}, {(Subscript[a, 21]), (Subscript[a, 22])}}), ({{..., (Subscript[a, 1  k])}, {..., (Subscript[a, 2  k])}})}, {({{..., ...}, {(Subscript[a, k1]), (Subscript[a, k2])}}), ({{..., ...}, {..., (Subscript[a, kk])}})}}))

Uwaga. Aby zbadać, w których punktach funkcja f(x) ma maksimum, wystarczy zbadać funkcję -f(x). Punkty stacjonarne takiej funkcji pokrywają się z punktami stacjonarnymi funkcji f(x). Hesjan funkcji  -f(x) powstaje z hesjanu funkcji  f(x) przez pomnożenie jej wszystkich elementów przez -1. Punkty stacjonarne, w których nie ma ani minimum, ani maksimum nazywamy punktami przegięcia.

Przykład 2.3 (Klasyfikacja punktów stacjonarnych)

Zbadajmy punkty stacjonarne funkcji f(x, y) = (((x - 2))^2) + (((x - 2  (y^2)))^2).

Oto wyniki, uzyskane za pomocą programu Mathematica.