Cambiar idioma

Estadística

Calculadora de concordancia entre evaluadores: kappa de Cohen y CCI

Mide el acuerdo entre dos evaluadores con el kappa de Cohen (simple y ponderado) o con el coeficiente de correlación intraclase, con intervalos de confianza.

Editado por SolucionesAhora.com Cómo verificamos

Datos de la calculadora

  1. Escribe tus datos, o pulsa «Ver ejemplo» para ver cómo funciona.
  2. Si tu caso es especial, abre «Opciones avanzadas».
  3. Lee el resultado y, debajo, qué significa y cómo se ha calculado.

El kappa de Cohen sirve cuando los dos evaluadores clasifican en categorías (sano o enfermo, grado 1 a 4…). El coeficiente de correlación intraclase (CCI) sirve cuando miden una cantidad numérica (una puntuación, una medida en milímetros…), con dos o más evaluadores.

Una fila por categoría del evaluador A y una columna por categoría del evaluador B, con el número de casos de cada combinación. La tabla debe ser cuadrada. Puedes poner los nombres de las categorías en la primera línea. Ejemplo 2×2: «20 5» y «10 15» significa que ambos dicen «sí» en 20 casos, A dice «sí» y B «no» en 5, y así sucesivamente.

Filas: evaluador A · columnas: evaluador B

Cada fila es un sujeto (o caso) y cada columna, un evaluador; todos deben haber medido a todos. Puedes poner los nombres de los evaluadores en la primera línea. Admite desde 2 sujetos y 2 evaluadores, hasta 2.000 filas.

Una fila por sujeto, una columna por evaluador

Depende de cómo se eligieron los evaluadores. «Evaluadores aleatorios, acuerdo absoluto» (ICC 2) es lo habitual si quieres generalizar a otros evaluadores y que cuenten los sesgos entre ellos. «Evaluadores fijos, consistencia» (ICC 3) ignora las diferencias sistemáticas entre evaluadores. «Un factor» (ICC 1) es para cuando cada sujeto lo midió un grupo distinto de evaluadores.

Opciones avanzadas

Con categorías ordenadas (grado 1 a 4), no es lo mismo fallar por una categoría que por tres. El kappa ponderado da crédito parcial a los desacuerdos cercanos: lineal (proporcional a la distancia) o cuadrático (penaliza más los grandes; equivale al CCI). Para categorías sin orden, deja «sin ponderar».

«Una medida» es la fiabilidad de un evaluador individual (lo habitual para decidir si puedes fiarte de una sola medición). «Promedio de los evaluadores» es la fiabilidad de la media de todos ellos, que siempre es mayor.

Los intervalos se calculan con este nivel. El 95 % es el estándar.

Ver el resultado

Resultados

Kappa de Cohen0,400
IC del kappa: inferior0,151
IC del kappa: superior0,649
Nivel de acuerdoaceptable
Acuerdo observado (%)70
Acuerdo esperado por azar (%)50
Error típico del kappa0,1270
PABAK (kappa ajustado por prevalencia y sesgo)0,400
Kappa máximo posible con esos totales0,800
p valorp = 0,004
Totales por categoría
CategoríaEvaluador A (total)Evaluador B (total)Coinciden
1253020
2252015
Ver el cálculo paso a paso
  1. n = 50; categorías = 2; error típico = 0,1270; p = 0,004 (contraste de κ = 0)
  2. Kappa máximo posible con esos totales = 0,800

En resumen

Qué calcula
Mide el acuerdo entre dos evaluadores con el kappa de Cohen (simple y ponderado) o con el coeficiente de correlación intraclase, con intervalos de confianza.
Fórmula aplicada
Po = Σ w_ij p_ij Pe = Σ w_ij p_i· p_·j κ = (Po − Pe) / (1 − Pe)
Ejemplo
Ejemplo 1. Kappa de dos evaluadores.

Calculadora de kappa de Cohen y CCI

Cuando dos personas (o dos métodos) clasifican o miden lo mismo, hay que saber hasta qué punto coinciden más allá del azar. El porcentaje de acuerdo no basta: con dos categorías, aunque ambos evaluadores respondieran tirando una moneda, coincidirían la mitad de las veces.

Para categorías (sano o enfermo, grados 1 a 4) usa el kappa de Cohen: corrige el acuerdo por el azar y, si las categorías están ordenadas, admite ponderación. Para medidas numéricas, con dos o más evaluadores, usa el coeficiente de correlación intraclase (CCI), en la forma que corresponda a tu diseño. La calculadora da los intervalos de confianza y el nivel de acuerdo según las guías habituales. Todo en tu navegador.

Cómo funciona

El kappa compara el acuerdo observado (Po) con el que se esperaría por azar (Pe) a partir de los totales de cada evaluador: κ = (Po − Pe) / (1 − Pe). Vale 1 con acuerdo perfecto, 0 si el acuerdo es el del azar y es negativo si es peor. En la versión ponderada, los desacuerdos entre categorías cercanas cuentan menos.

El CCI divide la variabilidad entre sujetos entre la variabilidad total, calculadas con un análisis de la varianza. Existen seis formas según si los evaluadores son los mismos para todos los sujetos, si se consideran una muestra o fijos, si se exige acuerdo absoluto o sólo consistencia, y si se informa la fiabilidad de un evaluador o la de su promedio.

Fórmula

Po = Σ w_ij p_ij Pe = Σ w_ij p_i· p_·j κ = (Po − Pe) / (1 − Pe)
w_ij = 1 si i = j y 0 si no (simple); 1 − |i − j|/(k − 1) (lineal); 1 − ((i − j)/(k − 1))² (cuadrático)
Error típico (Fleiss, Cohen y Everitt, 1969): var(κ) = [Σ p_ij (w_ij − (w̄_i· + w̄_·j)(1 − κ))² − (κ − Pe(1 − κ))²] / (n (1 − Pe)²)
IC = κ ± z × EE PABAK = (k·Po − 1) / (k − 1)
Niveles (Landis y Koch): < 0 peor que el azar · 0–0,20 leve · 0,21–0,40 aceptable · 0,41–0,60 moderado · 0,61–0,80 sustancial · > 0,80 casi perfecto
CCI(1,1) = (MSR − MSW) / (MSR + (k−1)·MSW)
CCI(2,1) = (MSR − MSE) / (MSR + (k−1)·MSE + k(MSC − MSE)/n)
CCI(3,1) = (MSR − MSE) / (MSR + (k−1)·MSE) las formas «k» (promedio) sustituyen el denominador por MSR (o MSR + (MSC − MSE)/n en el CCI 2)
Niveles del CCI (Koo y Li): < 0,50 pobre · 0,50–0,75 moderada · 0,75–0,90 buena · > 0,90 excelente

Ejemplo resuelto

Ejemplo 1. Kappa de dos evaluadores.
Dos médicos clasifican 50 radiografías como «normal» o «alterada». Coinciden en 20 «normales» y 15 «alteradas», y discrepan en 15. El acuerdo observado es el 70 %, y por azar se esperaría el 50 %, de modo que κ = 0,40 (error típico 0,127; IC 95 % de 0,151 a 0,649): un acuerdo aceptable, no bueno, aunque el 70 % pueda sonar alto.

Ejemplo 2. La paradoja del kappa.
En 100 casos, dos evaluadores coinciden en 90, pero casi todos son del mismo tipo (85 coinciden en «sí», 5 en «no»). El acuerdo observado es del 90 %, pero el azar ya daría el 82 %, así que κ = 0,444, sólo moderado. Cuando una categoría es muy frecuente, el kappa baja aunque el acuerdo sea alto; en ese caso informa también el porcentaje de acuerdo y el PABAK (0,80).

Ejemplo 3. CCI de seis sujetos y cuatro jueces.
Los datos clásicos de Shrout y Fleiss (1979): seis sujetos puntuados por cuatro jueces. El CCI(2,1) es 0,290 (IC 95 % de 0,019 a 0,761), pobre, porque los jueces difieren mucho en su nivel medio. El CCI(3,1), que ignora esas diferencias sistemáticas, es 0,715 (de 0,343 a 0,946). Elegir mal la forma cambia la conclusión: por eso hay que justificarla.

Explicación

Por qué no basta con el porcentaje de acuerdo

Con dos categorías, dos evaluadores que contestaran al azar coincidirían alrededor de la mitad de las veces. El porcentaje de acuerdo mezcla el acuerdo real y el que ocurre por casualidad. El kappa resta esa parte y mide cuánto acuerdo hay por encima del azar.

Kappa de Cohen: cómo leerlo

  • **1** es acuerdo perfecto, **0** es el acuerdo del azar y los valores negativos indican menos acuerdo que el azar.
  • Niveles de Landis y Koch (1977): leve hasta 0,20; aceptable hasta 0,40; moderado hasta 0,60; sustancial hasta 0,80; casi perfecto por encima. Son una convención, no un criterio estricto.
  • Mira el intervalo de confianza, no sólo el valor: con pocos casos puede ser muy ancho.
  • **Kappa ponderado**: para categorías ordenadas. El cuadrático equivale al CCI y es el más habitual.
  • **Paradoja del kappa**: cuando una categoría es muy frecuente, o los evaluadores usan las categorías con frecuencias muy distintas, el kappa es bajo aunque el acuerdo sea alto. Compáralo con el porcentaje de acuerdo y con el PABAK.

CCI: elegir la forma correcta

  • **ICC 1**: cada sujeto lo evaluó un grupo distinto de evaluadores.
  • **ICC 2**: los mismos evaluadores miden a todos y se consideran una muestra de los posibles evaluadores; cuenta el acuerdo absoluto (incluye los sesgos entre ellos). Es la elección habitual.
  • **ICC 3**: los evaluadores son los únicos de interés (fijos); sólo cuenta la consistencia, es decir, que ordenen igual a los sujetos aunque uno puntúe siempre más alto.
  • **Una medida o promedio**: lo primero para decidir si un solo evaluador es fiable; lo segundo si en la práctica usarás la media de todos.
  • Niveles de Koo y Li (2016): por debajo de 0,50 pobre; hasta 0,75 moderada; hasta 0,90 buena; por encima, excelente. Se aplican al intervalo de confianza, no sólo al valor.

Errores frecuentes

  • Informar sólo el porcentaje de acuerdo.
  • Usar el kappa simple con categorías ordenadas en lugar del ponderado.
  • Elegir la forma del CCI sin justificarla (cambia el resultado).
  • Interpretar los niveles de Landis y Koch como un criterio absoluto.
  • Comparar kappas entre estudios con prevalencias muy distintas.

Límites de esta calculadora

  • Admite dos evaluadores en el kappa; para tres o más, hace falta el kappa de Fleiss, que no está aquí.
  • El CCI exige que todos los evaluadores midan a todos los sujetos; no admite datos ausentes.
  • El intervalo del kappa es el asintótico de Fleiss, Cohen y Everitt; con tablas con pocos casos es aproximado.
  • Los intervalos del CCI suponen aproximadamente normalidad de las medidas.
  • No incluye la gráfica de Bland-Altman, útil para ver el sesgo entre dos métodos.

Aviso

El resultado es orientativo. Para una publicación, comprueba las cifras con tu paquete estadístico y justifica la elección del modelo.

Preguntas frecuentes

¿Qué es el kappa de Cohen?

Una medida del acuerdo entre dos evaluadores en categorías que descuenta el que ocurriría por azar. Va de −1 a 1; 1 es acuerdo perfecto y 0 el acuerdo esperado por azar.

¿Qué kappa se considera bueno?

Con los niveles de Landis y Koch, entre 0,61 y 0,80 es sustancial y por encima de 0,80 casi perfecto. Es una convención: en algunos campos clínicos se exige más.

¿Cuándo usar el kappa ponderado?

Cuando las categorías están ordenadas (grado 1 a 4): un desacuerdo entre grados contiguos pesa menos que uno entre extremos. Con categorías sin orden, usa el simple.

¿Por qué mi kappa es bajo si coincidimos casi siempre?

Es la paradoja del kappa: si casi todos los casos caen en una categoría, el azar ya explica casi todo el acuerdo. Informa también el porcentaje de acuerdo y el PABAK.

¿Qué forma del CCI debo elegir?

La más habitual es la de dos factores con efectos aleatorios y acuerdo absoluto (ICC 2). Si los evaluadores son fijos y sólo importa el orden de los sujetos, la de consistencia (ICC 3). Justifícalo en el informe.

¿Qué diferencia hay entre CCI de una medida y de promedio?

El de una medida es la fiabilidad de un evaluador solo; el de promedio, la de la media de todos, siempre mayor. Informa el que coincida con cómo vas a usar la medición.

¿Qué CCI se considera excelente?

Koo y Li proponen: menos de 0,50 pobre, 0,50 a 0,75 moderada, 0,75 a 0,90 buena y más de 0,90 excelente, aplicando los niveles al intervalo de confianza.

¿Mis datos se envían a un servidor?

No. El cálculo se hace en tu navegador.

Fuentes y referencias

La fórmula de esta calculadora no es una invención nuestra. Estas son las fuentes de las que sale, en formato APA 7, por si quieres ir al original o citarlas en un trabajo.

  1. Cohen, J. (1960). A coefficient of agreement for nominal scales. Educational and Psychological Measurement, 20(1), 37–46. https://doi.org/10.1177/001316446002000104 https://doi.org/10.1177/001316446002000104 La definición del kappa de Cohen.
  2. Fleiss, J. L., Cohen, J., & Everitt, B. S. (1969). Large sample standard errors of kappa and weighted kappa. Psychological Bulletin, 72(5), 323–327. https://doi.org/10.1037/h0028106 https://doi.org/10.1037/h0028106 El error típico del kappa, simple y ponderado.
  3. Landis, J. R., & Koch, G. G. (1977). The measurement of observer agreement for categorical data. Biometrics, 33(1), 159–174. https://doi.org/10.2307/2529310 https://doi.org/10.2307/2529310 Los niveles de acuerdo (leve, aceptable, moderado, sustancial, casi perfecto).
  4. Shrout, P. E., & Fleiss, J. L. (1979). Intraclass correlations: Uses in assessing rater reliability. Psychological Bulletin, 86(2), 420–428. https://doi.org/10.1037/0033-2909.86.2.420 https://doi.org/10.1037/0033-2909.86.2.420 Las tres formas del CCI y sus intervalos; los datos del ejemplo proceden de este artículo.
  5. Koo, T. K., & Li, M. Y. (2016). A guideline of selecting and reporting intraclass correlation coefficients for reliability research. Journal of Chiropractic Medicine, 15(2), 155–163. https://doi.org/10.1016/j.jcm.2016.02.012 https://doi.org/10.1016/j.jcm.2016.02.012 La guía para elegir el modelo del CCI y los niveles pobre, moderada, buena y excelente.

¿Quieres calcular otra cosa?

Estas herramientas suelen usarse junto a esta calculadora.

Alfa de Cronbach

Fiabilidad de una escala o cuestionario: alfa con intervalo de confianza, omega, y qué ítems la mejoran o la…

Correlación de Pearson

El coeficiente r de Pearson entre dos variables, con p valor, intervalo de confianza, recta de regresión y…

d de Cohen

Tamaño del efecto entre dos grupos o antes y después, con intervalo de confianza, equivalencias y la frase…

Tamaño de muestra

Cuántas respuestas necesitas para estimar un porcentaje o una media, con población finita, efecto de diseño…