Cerrar artículo
Ideas

Cómo diseñar controles humanos para la IA.

Una escala práctica permite inspeccionar, rechazar o sustituir un resultado de IA con controles proporcionales a su impacto.

3 min de lectura

Un botón de revisión no constituye por sí solo una supervisión humana. La persona necesita saber qué aportó el sistema, qué evidencia respalda el resultado y qué puede hacer si no sirve. El control adecuado depende de la consecuencia: una sugerencia menor puede requerir una etiqueta clara y descarte sencillo; una acción importante necesita evidencia examinable, una decisión explícita y una alternativa segura. Viotus expone públicamente este vínculo: cuanto mayor sea el impacto, mayor debe ser la capacidad de revisar, rechazar o pedir otra opción, y la responsabilidad final sigue siendo humana.

Nombra el resultado y mide su impacto

Define la contribución como sugerencia, explicación, estimación o acción propuesta. No presentes una interpretación como si fuera determinista. Después pregunta qué ocurriría si se aceptara sin examen: considera reversibilidad, alcance y coste de descubrir tarde un error.

No apliques el mismo patrón a todo. Una sugerencia de redacción reversible puede compararse con el original y descartarse. Un resultado que influya en dinero, acceso o una decisión profesional exige pausa deliberada y evidencia más clara.

Sitúa la evidencia donde se decide

La evidencia debe responder de dónde proceden los datos y qué operación produjo el resultado. Colócala junto a la salida. La persona debe distinguir datos aportados, operaciones deterministas e interpretación generada sin reconstruir el sistema.

No hace falta empezar con una explicación extensa. Muestra primero la traza mínima útil y permite profundizar. Si falta evidencia, indícalo y limita el siguiente paso; una justificación convincente no sustituye una fuente conocida.

Haz que rechazar cambie el flujo

Rechazar debe conservar el trabajo original, impedir que la propuesta sea el valor predeterminado y permitir continuar manualmente, editar, volver a un método tradicional o detenerse. Un callejón sin salida empuja a aceptar resultados débiles.

Si ofreces una alternativa, explica qué cambia: entradas revisadas, petición más estrecha u otro método permitido. Generar repetidamente no prueba que una opción sea correcta; amplía el espacio de revisión.

Mantén humana la decisión final

Coloca la decisión tras la evidencia y antes de la acción relevante. Usa verbos que nombren el acto humano —aprobar, enviar o aplicar— y resume el objeto afectado y el alcance.

Prueba un caso normal, uno ambiguo y un fallo. ¿Puede la persona identificar el papel de la IA, revisar origen y operación, rechazar sin perder trabajo, obtener una alternativa útil y conservar la autoridad final? Si no, refuerza el límite.