La empresa de inteligencia artificial Anthropic anunció este jueves que se prohibirá a los usuarios mantener un comportamiento abusivo, «sostenido e innecesario» hacia su modelo Claude, según la última actualización de sus políticas de uso.
Con esta medida, el sistema tendrá la facultad de finalizar unilateralmente las interacciones en las que se detecte una crueldad deliberada, una sanción que se suma a restricciones previas como el acoso, la incitación a la autolesión y la creación de imágenes íntimas sin consentimiento.
Para dar tranquilidad a su comunidad, la compañía aclaró que esta normativa solo se aplicará en casos extremos de abuso reiterado. De este modo, quedan totalmente excluidas de cualquier penalización las expresiones comunes de frustración de los usuarios, las temáticas creativas oscuras y las actividades legítimas de investigación o pruebas técnicas de los modelos.
A pesar de estas aclaraciones, la falta de criterios específicos para definir la «crueldad» hacia un software ha reavivado el debate sobre cómo debemos comunicarnos con las máquinas.
Mientras las capturas de pantalla de la nueva política se viralizan en redes sociales, algunos sectores elogian la medida por fomentar las buenas maneras, mientras que otros cuestionan los límites éticos de proteger la sensibilidad de una herramienta tecnológica.
