Skip to content

Crear la página 'Guía rápida para pruebas múltiples' (libreta, issue #35) con corrección de comparaciones múltiples #40

Description

@mgraffg

Contexto

Parte del issue #34 (Página web), que pide explícitamente:

Guía rápida para pruebas múltiples [...] Considera también lo que se va implementar en el issue #35.

El sitio se está migrando (ver #43) a un proyecto Quarto de tipo website con estructura similar a https://ingeotec.github.io/LegalIA/: una libreta .ipynb por sección, enlazada desde el navbar en _quarto.yml, en vez del dashboard de una sola página quarto/CompStats.qmd.

El issue #35 (ya cerrado) agregó soporte para imprimir p-values con múltiples métricas y aplicar corrección por comparaciones múltiples (p.ej. statsmodels.stats.multitest.multipletests con método bonferroni), usando performance_multiple_metrics/difference_multiple (o su equivalente actual en Perf/Difference tras #30/#32/#36).

La sección "Multi-measure Support" del borrador anterior (quarto/CompStats.qmd) cubre cómo combinar varias métricas en un mismo Perf, pero usa la API obsoleta score_func/error_func (removida en #36, reemplazada por func/BiB) y no cubre la corrección de p-values por comparaciones múltiples que pedía el issue #35.

Qué hacer

  • Crear la página quarto/pages/multiple_testing.ipynb (o el nombre que se defina en Crear la plantilla del sitio en Quarto (estructura tipo LegalIA) y la página de Introducción #43) como libreta Jupyter, migrando y corrigiendo el contenido de "Multi-measure Support" a la API actual (func=..., BiB=...).
  • Extender esa página con el flujo completo de "pruebas múltiples": múltiples métricas, múltiples sistemas comparados contra el mejor, y la corrección de p-values (bonferroni u otro método soportado) usando la API actual del proyecto (revisar si la corrección vive en Perf.difference()/Difference o si sigue siendo responsabilidad del usuario vía statsmodels.stats.multitest.multipletests como en el ejemplo original de Performance multiple comparison #35).
  • Si la corrección todavía no está expuesta directamente en Perf/Difference, documentar el patrón recomendado (ejemplo de código) para aplicarla sobre los p-values obtenidos.
  • Agregar la página al navbar de _quarto.yml (ver Crear la plantilla del sitio en Quarto (estructura tipo LegalIA) y la página de Introducción #43).
  • Confirmar que la libreta renderiza correctamente con quarto render y corre de principio a fin en Jupyter.

Referencia

Metadata

Metadata

Assignees

No one assigned

    Labels

    documentationImprovements or additions to documentation

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions