¿Riesgos de la inteligencia artificial?: alerta desde Anthropic
La renuncia de Jacob Coxon reabre la discusión sobre seguridad, automejora y control de sistemas avanzados, sin evidencia de una catástrofe inminente. Jacob Coxon renunció a Anthropic y alertó sobre el desarrollo acelerado de sistemas de IA capaces de contribuir a su propia mejora. Sus advertencias no prueban una catástrofe inminente, pero coinciden con preocupaciones […]
Botón de apagado para IA: ¿Qué propone Estados Unidos?
Una iniciativa bipartidista busca obligar a las mayores empresas tecnológicas a conservar mecanismos para limitar o detener sus sistemas ante una emergencia grave. El AI Kill Switch Act propone que las mayores empresas de inteligencia artificial mantengan controles para reducir, suspender o apagar modelos avanzados ante incidentes graves. El Departamento de Seguridad Nacional de Estados […]