Calculadora de concordancia entre evaluadores: kappa de Cohen y CCI
Mide el acuerdo entre dos evaluadores con el kappa de Cohen (simple y ponderado) o con el coeficiente de correlación intraclase, con intervalos de confianza.
Datos de la calculadora
Resultados
Introduce los datos y pulsa «Calcular» para ver el resultado.
| Categoría | Evaluador A (total) | Evaluador B (total) | Coinciden |
|---|---|---|---|
| 1 | 25 | 30 | 20 |
| 2 | 25 | 20 | 15 |
Ver el cálculo paso a paso
- n = 50; categorías = 2; error típico = 0,1270; p = 0,004 (contraste de κ = 0)
- Kappa máximo posible con esos totales = 0,800
En resumen
- Qué calcula
- Mide el acuerdo entre dos evaluadores con el kappa de Cohen (simple y ponderado) o con el coeficiente de correlación intraclase, con intervalos de confianza.
- Fórmula aplicada
Po = Σ w_ij p_ij Pe = Σ w_ij p_i· p_·j κ = (Po − Pe) / (1 − Pe)- Ejemplo
- Ejemplo 1. Kappa de dos evaluadores.
Calculadora de kappa de Cohen y CCI
Cuando dos personas (o dos métodos) clasifican o miden lo mismo, hay que saber hasta qué punto coinciden más allá del azar. El porcentaje de acuerdo no basta: con dos categorías, aunque ambos evaluadores respondieran tirando una moneda, coincidirían la mitad de las veces.
Para categorías (sano o enfermo, grados 1 a 4) usa el kappa de Cohen: corrige el acuerdo por el azar y, si las categorías están ordenadas, admite ponderación. Para medidas numéricas, con dos o más evaluadores, usa el coeficiente de correlación intraclase (CCI), en la forma que corresponda a tu diseño. La calculadora da los intervalos de confianza y el nivel de acuerdo según las guías habituales. Todo en tu navegador.
Cómo funciona
El kappa compara el acuerdo observado (Po) con el que se esperaría por azar (Pe) a partir de los totales de cada evaluador: κ = (Po − Pe) / (1 − Pe). Vale 1 con acuerdo perfecto, 0 si el acuerdo es el del azar y es negativo si es peor. En la versión ponderada, los desacuerdos entre categorías cercanas cuentan menos.
El CCI divide la variabilidad entre sujetos entre la variabilidad total, calculadas con un análisis de la varianza. Existen seis formas según si los evaluadores son los mismos para todos los sujetos, si se consideran una muestra o fijos, si se exige acuerdo absoluto o sólo consistencia, y si se informa la fiabilidad de un evaluador o la de su promedio.
Fórmula
Po = Σ w_ij p_ij Pe = Σ w_ij p_i· p_·j κ = (Po − Pe) / (1 − Pe)
w_ij = 1 si i = j y 0 si no (simple); 1 − |i − j|/(k − 1) (lineal); 1 − ((i − j)/(k − 1))² (cuadrático)
Error típico (Fleiss, Cohen y Everitt, 1969): var(κ) = [Σ p_ij (w_ij − (w̄_i· + w̄_·j)(1 − κ))² − (κ − Pe(1 − κ))²] / (n (1 − Pe)²)
IC = κ ± z × EE PABAK = (k·Po − 1) / (k − 1)
Niveles (Landis y Koch): < 0 peor que el azar · 0–0,20 leve · 0,21–0,40 aceptable · 0,41–0,60 moderado · 0,61–0,80 sustancial · > 0,80 casi perfecto
CCI(1,1) = (MSR − MSW) / (MSR + (k−1)·MSW)
CCI(2,1) = (MSR − MSE) / (MSR + (k−1)·MSE + k(MSC − MSE)/n)
CCI(3,1) = (MSR − MSE) / (MSR + (k−1)·MSE) las formas «k» (promedio) sustituyen el denominador por MSR (o MSR + (MSC − MSE)/n en el CCI 2)
Niveles del CCI (Koo y Li): < 0,50 pobre · 0,50–0,75 moderada · 0,75–0,90 buena · > 0,90 excelente
Ejemplo resuelto
Ejemplo 1. Kappa de dos evaluadores.
Dos médicos clasifican 50 radiografías como «normal» o «alterada». Coinciden en 20 «normales» y 15 «alteradas», y discrepan en 15. El acuerdo observado es el 70 %, y por azar se esperaría el 50 %, de modo que κ = 0,40 (error típico 0,127; IC 95 % de 0,151 a 0,649): un acuerdo aceptable, no bueno, aunque el 70 % pueda sonar alto.
Ejemplo 2. La paradoja del kappa.
En 100 casos, dos evaluadores coinciden en 90, pero casi todos son del mismo tipo (85 coinciden en «sí», 5 en «no»). El acuerdo observado es del 90 %, pero el azar ya daría el 82 %, así que κ = 0,444, sólo moderado. Cuando una categoría es muy frecuente, el kappa baja aunque el acuerdo sea alto; en ese caso informa también el porcentaje de acuerdo y el PABAK (0,80).
Ejemplo 3. CCI de seis sujetos y cuatro jueces.
Los datos clásicos de Shrout y Fleiss (1979): seis sujetos puntuados por cuatro jueces. El CCI(2,1) es 0,290 (IC 95 % de 0,019 a 0,761), pobre, porque los jueces difieren mucho en su nivel medio. El CCI(3,1), que ignora esas diferencias sistemáticas, es 0,715 (de 0,343 a 0,946). Elegir mal la forma cambia la conclusión: por eso hay que justificarla.
Explicación
Por qué no basta con el porcentaje de acuerdo
Con dos categorías, dos evaluadores que contestaran al azar coincidirían alrededor de la mitad de las veces. El porcentaje de acuerdo mezcla el acuerdo real y el que ocurre por casualidad. El kappa resta esa parte y mide cuánto acuerdo hay por encima del azar.
Kappa de Cohen: cómo leerlo
- **1** es acuerdo perfecto, **0** es el acuerdo del azar y los valores negativos indican menos acuerdo que el azar.
- Niveles de Landis y Koch (1977): leve hasta 0,20; aceptable hasta 0,40; moderado hasta 0,60; sustancial hasta 0,80; casi perfecto por encima. Son una convención, no un criterio estricto.
- Mira el intervalo de confianza, no sólo el valor: con pocos casos puede ser muy ancho.
- **Kappa ponderado**: para categorías ordenadas. El cuadrático equivale al CCI y es el más habitual.
- **Paradoja del kappa**: cuando una categoría es muy frecuente, o los evaluadores usan las categorías con frecuencias muy distintas, el kappa es bajo aunque el acuerdo sea alto. Compáralo con el porcentaje de acuerdo y con el PABAK.
CCI: elegir la forma correcta
- **ICC 1**: cada sujeto lo evaluó un grupo distinto de evaluadores.
- **ICC 2**: los mismos evaluadores miden a todos y se consideran una muestra de los posibles evaluadores; cuenta el acuerdo absoluto (incluye los sesgos entre ellos). Es la elección habitual.
- **ICC 3**: los evaluadores son los únicos de interés (fijos); sólo cuenta la consistencia, es decir, que ordenen igual a los sujetos aunque uno puntúe siempre más alto.
- **Una medida o promedio**: lo primero para decidir si un solo evaluador es fiable; lo segundo si en la práctica usarás la media de todos.
- Niveles de Koo y Li (2016): por debajo de 0,50 pobre; hasta 0,75 moderada; hasta 0,90 buena; por encima, excelente. Se aplican al intervalo de confianza, no sólo al valor.
Errores frecuentes
- Informar sólo el porcentaje de acuerdo.
- Usar el kappa simple con categorías ordenadas en lugar del ponderado.
- Elegir la forma del CCI sin justificarla (cambia el resultado).
- Interpretar los niveles de Landis y Koch como un criterio absoluto.
- Comparar kappas entre estudios con prevalencias muy distintas.
Límites de esta calculadora
- Admite dos evaluadores en el kappa; para tres o más, hace falta el kappa de Fleiss, que no está aquí.
- El CCI exige que todos los evaluadores midan a todos los sujetos; no admite datos ausentes.
- El intervalo del kappa es el asintótico de Fleiss, Cohen y Everitt; con tablas con pocos casos es aproximado.
- Los intervalos del CCI suponen aproximadamente normalidad de las medidas.
- No incluye la gráfica de Bland-Altman, útil para ver el sesgo entre dos métodos.
Aviso
El resultado es orientativo. Para una publicación, comprueba las cifras con tu paquete estadístico y justifica la elección del modelo.
Preguntas frecuentes
¿Qué es el kappa de Cohen?
Una medida del acuerdo entre dos evaluadores en categorías que descuenta el que ocurriría por azar. Va de −1 a 1; 1 es acuerdo perfecto y 0 el acuerdo esperado por azar.
¿Qué kappa se considera bueno?
Con los niveles de Landis y Koch, entre 0,61 y 0,80 es sustancial y por encima de 0,80 casi perfecto. Es una convención: en algunos campos clínicos se exige más.
¿Cuándo usar el kappa ponderado?
Cuando las categorías están ordenadas (grado 1 a 4): un desacuerdo entre grados contiguos pesa menos que uno entre extremos. Con categorías sin orden, usa el simple.
¿Por qué mi kappa es bajo si coincidimos casi siempre?
Es la paradoja del kappa: si casi todos los casos caen en una categoría, el azar ya explica casi todo el acuerdo. Informa también el porcentaje de acuerdo y el PABAK.
¿Qué forma del CCI debo elegir?
La más habitual es la de dos factores con efectos aleatorios y acuerdo absoluto (ICC 2). Si los evaluadores son fijos y sólo importa el orden de los sujetos, la de consistencia (ICC 3). Justifícalo en el informe.
¿Qué diferencia hay entre CCI de una medida y de promedio?
El de una medida es la fiabilidad de un evaluador solo; el de promedio, la de la media de todos, siempre mayor. Informa el que coincida con cómo vas a usar la medición.
¿Qué CCI se considera excelente?
Koo y Li proponen: menos de 0,50 pobre, 0,50 a 0,75 moderada, 0,75 a 0,90 buena y más de 0,90 excelente, aplicando los niveles al intervalo de confianza.
¿Mis datos se envían a un servidor?
No. El cálculo se hace en tu navegador.
Fuentes y referencias
La fórmula de esta calculadora no es una invención nuestra. Estas son las fuentes de las que sale, en formato APA 7, por si quieres ir al original o citarlas en un trabajo.
- Cohen, J. (1960). A coefficient of agreement for nominal scales. Educational and Psychological Measurement, 20(1), 37–46. https://doi.org/10.1177/001316446002000104 https://doi.org/10.1177/001316446002000104 La definición del kappa de Cohen.
- Fleiss, J. L., Cohen, J., & Everitt, B. S. (1969). Large sample standard errors of kappa and weighted kappa. Psychological Bulletin, 72(5), 323–327. https://doi.org/10.1037/h0028106 https://doi.org/10.1037/h0028106 El error típico del kappa, simple y ponderado.
- Landis, J. R., & Koch, G. G. (1977). The measurement of observer agreement for categorical data. Biometrics, 33(1), 159–174. https://doi.org/10.2307/2529310 https://doi.org/10.2307/2529310 Los niveles de acuerdo (leve, aceptable, moderado, sustancial, casi perfecto).
- Shrout, P. E., & Fleiss, J. L. (1979). Intraclass correlations: Uses in assessing rater reliability. Psychological Bulletin, 86(2), 420–428. https://doi.org/10.1037/0033-2909.86.2.420 https://doi.org/10.1037/0033-2909.86.2.420 Las tres formas del CCI y sus intervalos; los datos del ejemplo proceden de este artículo.
- Koo, T. K., & Li, M. Y. (2016). A guideline of selecting and reporting intraclass correlation coefficients for reliability research. Journal of Chiropractic Medicine, 15(2), 155–163. https://doi.org/10.1016/j.jcm.2016.02.012 https://doi.org/10.1016/j.jcm.2016.02.012 La guía para elegir el modelo del CCI y los niveles pobre, moderada, buena y excelente.
¿Quieres calcular otra cosa?
Estas herramientas suelen usarse junto a esta calculadora.
Alfa de Cronbach
Fiabilidad de una escala o cuestionario: alfa con intervalo de confianza, omega, y qué ítems la mejoran o la…
Correlación de Pearson
El coeficiente r de Pearson entre dos variables, con p valor, intervalo de confianza, recta de regresión y…
d de Cohen
Tamaño del efecto entre dos grupos o antes y después, con intervalo de confianza, equivalencias y la frase…
Precisión y recall
Métricas de clasificación a partir de una matriz de confusión.
Tamaño de muestra
Cuántas respuestas necesitas para estimar un porcentaje o una media, con población finita, efecto de diseño…
Desviación estándar
Desviación muestral y poblacional, varianza y coeficiente de variación.