\documentclass[8pt,a4paper]{scrartcl}

\input{definitions}
\input{packages}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\geometry{left=8mm,right=8mm, top=10mm, bottom=10mm, paperwidth=210mm, paperheight=297mm}
\fancyhf{}																								%Kopf-/Fu?zeilenfelder leeren
\pagestyle{fancy}																						%Seitenstil auf fancy setzen
\fancyhead[L]{SR}																					%im Kopf links den Titel schreiben
\fancyhead[R]{\copyright \hspace{1mm}Lst Ökonometrie, Uni Regensburg, Nov 2012}
\renewcommand{\headrulewidth}{0pt}																				%Im Kopf rechts die Seitenzahl setzen
\fancypagestyle{plain}{}																					% damit auch "plain" Seiten fancy werden
\setlength{\headheight}{14.5pt}
\renewcommand{\baselinestretch}{1.25}


\begin{document}	
\section*{Ableitungen von vektorwertigen Funktionen bzw. Matrizen}
Im Folgenden sei $\vf:\R^n \to \R^m$ mit $\vx \mapsto \bmat f_1(\vx) & \cdots & f_m(\vx) \emat^T$ eine vektorwertige Abbildung (Vektorfeld), definiere die Ableitung $D$ von $\vf$ (in beliebigem Punkt $\vx$) als die Jacobimatrix:
\beqs \left(D\vf(\vx)\right):=\left(\frac{\partial f_i(\vx)}{\partial x_j}\right)_{i=1,..., m; j=1,...,n} \in \R^{m \times n} \eeqs
\textbf{Übliche Ableitungsregeln sollen erhalten bleiben:}\\
Der Übersicht halber schreiben wir jetzt $f:=\vf, g:=\vg$ und $x:=\vx$. Sei $f:\R^n \to \R^m$ und $\alpha, \beta \in \R$, betrachte folgende Anforderungen an die Ableitung:
\bit
\item[1.] \textbf{Linearität:} \beqs D\left[\alpha \vf(\vx) + \beta \vg(\vx)\right] = \alpha D\vf(\vx) + \beta D\vg(\vx) \eeqs (nur falls $\vf, \vg: \R^{n}\to \R^m$, da man dann zwei $m\times n$-Matrizen addiert).
\item[2.] \textbf{Kettenregel:} \beqs D\left[\vf(\vg(\vx))\right] = D\vf(\vg(\vx)) \cdot D\vg(\vx)\eeqs(nur falls $\vf: \R^{n}\to \R^m$ und $\vg:\R^{k}\to \R^n$, da man dann $D\vf(\vg(\vx)) \in \R^{m\times n}$ mit $D\vg(\vx) \in \R^{n\times p}$ multipliziert; man kann beide Faktoren nicht vertauschen!).
\item[3.] \textbf{Produktregel:} (im Vektorfall) \beqs D\left[\vf(\vx)^T  \vg(\vx)\right] = \vf(\vx)^T D\vg(\vx) + \vg(\vx)^T D\vf(\vx) \eeqs (nur falls $\vg:\R^n\to \R^m$, da damit $\vf(\vx)^T  \vg(\vx) \in \R$ und $D(\vf(\vx)^T  \vg(\vx)) \in \R^{1\times n}$ und $\vf(\vx)^T D\vg(\vx) \in \R^{1\times n}$)
\item[4.] \textbf{Produktregel:} (im Matrixfall)\\
Während die Ableitung von vektorwertigen Funktion nach einem Vektor intuitiv war, ist die Ableitung einer Matrixfunktion $\mA(\mX)$ nach einer Matrix $\mX$ etwas abstrakter. Um die Konsistenz zu wahren, liegt es nun nahe, dass man die Matrix $\mA(\mX)$ mittels $\vec$ vektorisiert und dann nach $\vec(\mX)$ ableitet: 
\beqs D\left[\mA(\mX)\right]:=D\left[\vec(\mA(\mX)\right]:=\frac{d\vec(\mA(\mX))}{d\vec(\mX)}  \eeqs 
Seien also $\mA(\mX) \in \R^{m\times p}, \mB(\mX) \in \R^{p\times q}$ Matrizen abhängig von der Matrix $\mX$, dann gilt: $\mA(\mX) \cdot \mB(\mX) \in \R^{m\times q}$. Seit weiter $I_n \in \R^{n\times n}$ die Einheitsmatrix dann gilt mit den Rechenregeln von $\vec$ und $\otimes$:
\beqs \vec(\mI_m \cdot \mA(\mX) \cdot \mB(\mX) \cdot \mI_q) = (\mB(\mX)^T \otimes \mI_m) \cdot \vec(\mA(\mX)) =( \mI_q \otimes \mA(\mX)) \cdot \vec(\mB(\mX))  \eeqs
Und somit wäre eine natürliche Produktregel:
\beqs D\left[\mA(\mX)\cdot \mB(\mX)\right] =(\mB(\mX)^T \otimes \mI_m) \cdot D\mA(\mX)+( \mI_q \otimes \mA(\mX)) \cdot D\mB(\mX)   \eeqs
\eit  
\textbf{Anwendungen der Matrixableitungen:}\\
Sei wie oben wieder $\mA\in \R^{m\times n}, \mB\in \R^{p\times q}, \vx\in \R^n$ und $\mX$ variabel, aber passend, dann gilt:
\bit
\item $\frac{d\mA\vx}{d\vx}=\mA$
\item $\frac{d\vx^T \mA\vx}{d\vx}=\vx^T(\mA+\mA^T)$
\item $\frac{d\vec(\vx^T \mA \vx)}{d\vec(\mA)}=\vx^T\otimes \vx^T$
\item $\frac{d\mA^T \mA}{d\mA}=(\mI_{n^2}+\mT_{n,n})(\mI_n \otimes \mA^T)$
\item $\frac{d\mA \mA^T}{d\mA}=(\mI_{m^2}+\mT_{m,m})(\mA \otimes \mI_m)$
\item $\frac{d\vx^T\mA^T \mA \vx}{d\mA}=2\vx^T \otimes \vx^T \mA^T$
\item $\frac{d\vx^T \mA \mA^T \vx}{d\mA}=2\vx^T \mA \otimes \vx^T$
\item $\frac{d\mA\mX\mB}{d\mX}=\mB^T \otimes \mA$
\item $\frac{d\mA^{-1}}{d\mA}=-((\mA^{-1})^T \otimes \mA^{-1})$
\item $\frac{d \log(\det(\mA)}{d\mA}=\vec((\mA^{-1})^T)^T$
\item $\frac{d \tr(\mA\mX)}{d\mX}=\vec(\mA^T)^T$
\eit

\end{document}