En 2003, Nick Bostrom, profesor de la Universidad de Oxford, se preguntaba qué ocurriría si se pidiera a una inteligencia artificial que fabricara el mayor número posible de clips. Supongamos que el director general de una empresa de este sector pusiera en marcha una IA sin barreras ni controles y le pidiera que aplicara su superinteligencia al problema de los clips. Según Bostrom, la IA empezaría a transformar primero toda la Tierra, y luego partes cada vez mayores del espacio, en fábricas de clips. Pero incluso una instrucción inofensiva, como ‘sé útil’, puede causar problemas si la IA ayuda…