{
"cells": [
{
"cell_type": "markdown",
"metadata": {
"id": "iMev4psTBNhc"
},
"source": [
"# Trabajo 2 \n",
"## Estimación y Predicción en Series Temporales \n",
"## Año 2023\n",
"\n",
"### Datos del estudiante\n",
"\n",
"* **Nombre:** COMPLETAR\n",
"* **Cédula:** COMPLETAR\n",
"* **Firma:** (imagen o firma digital)\n",
"\n",
"\n",
"<hr>\n",
"\n",
"**Nota:** Para trabajar, hágase una copia propia de este notebook en su espacio de Google Drive, o bien descárguese el archivo `.ipynb` y trabaje localmente con jupyter. \n",
"\n",
"<hr>\n",
"\n",
"## Aclaraciones\n",
"\n",
"El objetivo del trabajo es mostrar que el estudiante es capaz de resolver una serie de problemas teóricos e implementar y analizar una serie de problemas prácticos. En el primer caso, es fundamental justificar cualquier paso no trivial de la resolución. En el caso de problemas prácticos, es fundamental analizar y comentar todo resultado que se obtenga.\n",
"\n",
"### Autoría\n",
"\n",
"Esta es una tarea _individual_. Sus ejercicios deben ser resueltos por el estudiante cuyo nombre, cédula y firma se especifican al comienzo de este documento.\n",
"\n",
"No es admisible la realización colectiva de ninguno de los ejercicios ni sus partes. Tampoco es admisible la búsqueda y/o reutilización, total o parcial, de material en Internet u otros medios, así como entregas disponibles de años anteriores.\n",
"\n",
"Sí es admisible y aconsejable consultar, cotejar, e intercambiar ideas y sugerencias con otros estudiantes, utilizar material de referencia tales como: documentación sobre lenguajes de programación, resultados, definiciones y propiedades matemáticas, incluyendo todo el material expuesto en este curso, tanto teórico como práctico. \n",
"\n",
"También es admisible la reproducción e inclusión de recetas y código relacionado con aspectos auxiliares, tales como el graficado de funciones, etc., que no hacen al objetivo de los ejercicios. \n",
"\n",
"### Sanciones\n",
"\n",
"Cualquier violación a las anteriores reglas constituye una _falta disciplinaria_. En primera instancia, dicha falta implica la pérdida de los puntos del obligatorio en su totalidad. En caso de reincidencia, se desvinculará al estudiante del curso y quedará registrado como reprobado.\n",
"\n",
"### Conformidad\n",
"\n",
"Mediante la entrega de este informa firmado, dejo constancia de que:\n",
"\n",
"i) He leído y estoy de acuerdo con lo anteriormente expuesto. \n",
"ii) He resuelto por mi propia cuenta los ejercicios, sin recurrir a trabajos de otros compañeros, o soluciones existentes. \n",
"iii) No se incluyen partes ni fragmentos tomados de otras fuentes, salvo las excepciones mencionadas.\n"
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "fzfJbImBbF5c"
},
"source": [
"## Ejercicio 1 - Regresión polinomial (15 pts)\n",
"\n",
"Considere el problema de ajuste polinomial o *curve fitting.* El modelo para los datos es entonces\n",
"\n",
"$$x[n] = \\sum^{p-1}_{k=0} A_kn^k + w[n] \\quad n=1,2,\\dots,N$$\n",
"\n",
"donde $w[n] \\sim N(0,\\sigma^2)$. Se desea estimar $\\{A_0,A_1,\\dots,A_{p-1}\\}$. \n",
"\n",
"1. Plantear el problema como $ \\boldsymbol{x}=\\boldsymbol{H} \\boldsymbol{\\theta}+\\boldsymbol{w}$, encontrar el estimador MVU para $\\boldsymbol{\\theta}$\n",
"y dar la matriz de información de Fisher para este problema.\n",
"2. Verifique experimentalmente los resultados para el caso $p=4$ (ajuste de un polinomio de grado 3). Para ésto se utilizan los coeficientes:\n",
"\n",
"$$ A_0 = -9, A_1 = 0.73, A_2 = -0.016, A_3 = 0.0001 $$\n",
"\n",
"> Genere un conjunto de $N=100$ muestras, considerando para el proceso de ruido un $\\sigma^2=10$. Luego estime los valores de los coeficientes $A_0,\\dots,A_3$. Compare gráficamente los polinomios resultantes.\n",
"\n",
"\n",
"\n",
"\n"
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "GDRaVw0l39uM"
},
"source": [
"## Ejercicio 2 - MLE (20 pts)\n",
"\n",
"Considerar las observaciones\n",
"\n",
"$$x[n] = A\\cdot s[n] + w[n]\\,, \\quad n=0,1,\\dots,N-1$$\n",
"\n",
"donde $s[n]$ es una señal conocida y $w[n] \\sim N(0,\\sigma ^2)$ y $-\\infty < A < \\infty$.\n",
"\n",
"1. Encontrar el MLE para $A$\n",
"2. Determinar la densidad de probabilidad del MLE\n",
"3. Interpretar el resultado anterior. ¿Qué sucede cuando $N \\to +\\infty$?"
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "l8CFM_gU39uN"
},
"source": [
"## Ejercicio 3 - MAP (30 pts)"
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "WQp2Fvad39uO"
},
"source": [
"En un experimento se quiere encontrar la recta que mejor aproxima al conjunto de datos\n",
"\n",
"$$x[n] = A + B\\cdot n + w[n], \\quad 0\\leq n \\leq N-1,$$\n",
"\n",
"donde el error de medida se modela como $w[n] \\sim \\mathcal{N}(0,\\sigma^2)$."
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "qbbcbIxA39uO"
},
"source": [
"1. Encontrar los estimadores de máxima verosimilitud de A y B.\n",
"2. Simular y graficar los valores estimados en función de N, para $B \\neq 0$. \n",
"\n",
"3. Encontrar el MAP de $A$ y $B$ asumiendo que $A$ y $B$ son variables aleatorias independientes de $w[n]$ con densidad conjunta:\n",
"\n",
"$$\\begin{bmatrix}A \\\\ B\\end{bmatrix} \\sim N\\left( \\begin{bmatrix} A_0 \\\\ B_0 \\end{bmatrix}, \\begin{bmatrix} \\sigma^2_A & 0 \\\\ 0 & \\sigma^2_B \\end{bmatrix} \\right)$$\n",
"\n",
"4. Verificar experimentalmente que el uso de información a priori mejora la predicción. Comparar con el MLE para $N=30$, $\\sigma^2=2$, $\\sigma_A^2=1$, $\\sigma_B^2=3$, $A_0 = 5$, $B_0 = 2$.\n",
"\n",
"5. ¿Cuál de los dos parámetros se ve más beneficiado por la incorporación de la información a priori? Justificar formalmente. (Puede comentar a partir de la matriz de precisión) "
]
},
{
"cell_type": "markdown",
"metadata": {
"id": "1gSdMgEy1Pnz"
},
"source": [
"Nota: este ya está resuelto en los slides de teórico, es copiar y pegar...\n",
"\n"
]
}
],
"metadata": {
"colab": {
"collapsed_sections": [],
"name": "o2.ipynb",
"provenance": []
},
"kernelspec": {
"display_name": "Python 3 (ipykernel)",
"language": "python",
"name": "python3"
},
"language_info": {
"codemirror_mode": {
"name": "ipython",
"version": 3
},
"file_extension": ".py",
"mimetype": "text/x-python",
"name": "python",
"nbconvert_exporter": "python",
"pygments_lexer": "ipython3",
"version": "3.10.6"
}
},
"nbformat": 4,
"nbformat_minor": 1
}