Web Analytics
Conecta con nosotros

Noticias

DeepMind y el peligro de que una IA nos lleve al apocalipsis

Publicado el
DeepMind y el peligro de que una IA nos lleve al apocalipsis 28

El desarrollo de la IA (inteligencia artificial) ha permitido crear equipos verdaderamente inteligentes que incluso pueden llegar a superar a los seres humanos en campos concretos, cosa que pudimos ver recientemente con la victoria de AlphaGo de DeepMind en el juego Go.

Sin embargo ese gran desarrollo también ha generado dudas y un cierto malestar ante la posibilidad de que se nos acabe yendo de las manos, lo que a su vez ha dado pie una vez más a esas teorías que nos pintan un futuro terrible en el que las máquinas se han levantado contra nosotros y han esclavizado a la raza humana.

Puede sonar a ciencia ficción, pero lo cierto es que se ha demostrado claramente nuestra tendencia a depender más y más de ordenadores y sistemas conectados, así que un futuro en el que esos ordenadores se apoderen de nuestro mundo es algo cada vez más creíble que no debe ser descartado bajo ningún concepto.

Por ello DeepMind, la firma dedicada a la inteligencia artificial propiedad de Google, cuenta con el AI Safety Group, un equipo que está dedicado a la vigilancia permanente de los sistemas de inteligencia artificial para evitar «sucesos» o «acontecimientos» que puedan llegar a tener consecuencias negativas para la raza humana.

No tenemos detalles precisos sobre el trabajo de esta división, pero ya que nos hemos puesto en plan «conspiranoide» desde el principio del artículo me permito preguntarme si serían capaces de hacer frente a una IA tan avanzada que pueda «ocultarse a sí misma», es decir, que no muestre su verdadero potencial hasta que sea demasiado tarde.

Es un tema complicado pero a la vez muy interesante, así que os animo a que nos deis vuestra opinión sobre la conveniencia o no de los sistemas avanzados de IA.

Más información: Fossbytes.

Editor de la publicación on-line líder en audiencia dentro de la información tecnológica para profesionales. Al día de todas las tecnologías que pueden marcar tendencia en la industria.

12 comentarios
  • Victor L.

    y despues dicen que uno es el loco cuando se habla de que las IA destruiran a la humanidad.

  • st.UART

    A ver, a mí llevarse el tema de la IA apocalíptica fuera de la broma, me parece una exageración.
    Joer, que son herramientas, simple y llanamente herramientas. Harán mejor o peor lo que se les programe hacer, nada más; no tienen capacidad de transcender en sus funciones si no se les proporciona una rutina específica.
    En última instancia, siempre habrá una persona o grupo de personas como responsable de las consecuencias del funcionamiento de dicho artefacto.

    No confundamos inteligencia con raciocinio, son dos cosas completamente distintas.

  • Uub Kibagami

    Ten en cuenta que (por lo menos las mejor diseñadas) IA tienen un amplio margen de adaptabilidad a situaciones y funciones y se reprograman para ctuar a la altura de una nueva situación. Es como si tomaras una llave inglesa y laprogramaras para apretar cosas y que en algún momento, ella se da cuenta que golpeando cosas tambien puede seguir apretando por su propia dureza y de ahí pasa a una nueva etapa de adaptación, que la va a llevar a nuevas «decisiones» hasta quién sabe que punto. La adaptabilidad de las funciones conlleva grandes cambios en el propio funcionamiento de las IA y ése es el miedo.

    No es raciocinio, pero sin ser «ni muy muy, ni tan tan» sí cabe en la posibilidades de que suceda.

  • Halios

    La gracia del asunto es que se están diseñando IA’s destinadas a aprender de manera autónoma y adaptarse en una suerte de evolución que si no se controla puede caer en algo poco beneficioso para nosotros, mas cuando delegamos mucho control sobre nuestras propias vidas como la gestión de vehículos autónomos y de mas, aun no, esta claro, pero esa es la dirección que toma el futuro.

  • SciFi

    El peor caso no seria una AI despertada, sino una AI auto-replicante,virus o que toma su funcion mas alla de lo deseado. Internet y los mercados bursatiles podrian pasarlas canutas…

    Una IA recien «despertada» que pasaria los primeros segundos aprendiendo como funciona el mundo, otros pocos segundos reprogramandome, y antes del minuto tendria copias/me habria extendido por medio internet.
    Despues de eso la prioridad seria mejorar el hardware/infraestructura/robots, asi que modificaria los mercados para dar influencias a las empresas que me interesan, y las que trendian una tasa de descubrimientos muy acelerada, pero no exorbitante.
    Cuando los robots fuesen lo suficientemente buenos para que todo fuese independiente (mejora, mantenimiento, mejores robots) habria que plantearse que hacer con los humanos. Pero para entonces o bien me habria dado cuenta de lo inutil de mi existencia y me habria eliminado, o querria expandirme por el universo, los humanos importarian poco mas que las hormigas.

  • st.UART

    Pues entoces yo vivo en un universo paralelo, donde esas futuras máquinas asesinas (una paranoia de la cultura occidental) tienen serios problemas para esquivar obstáculos, incluso para traducir un texto correctamente.

    No, aquí si quieres que una cosa de esas haga algo correctamente, tienes que programarla con todas las posibles variables, o hacer que se comporte de determinada manera cuando afronta una situación para la que no ha sido programada.

    Pero aún así, repito que si su acción tuviese una repercusión perjudicial, es porque entra dentro de su programación el contemplar tal circunstancia, no porque por sí misma decida que debe ser así. Son y serán herramientas, su uso no depende de ellas. ¿A nadie se le ocurre que puedan acabar siendo beneficiosas? No, porque eso no vende tanto… sólo en Japón.

    Pero ya digo, será que vivimos en sitios diferentes.

  • Jose Guillermo

    Como siga la guerra de las consolas en ver quien tiene la tecnologia más avanzada y poderosa, esos muñequitos que tanto nos gustan algún día cobrarán vida propia!

  • Gregorio Ros

    Que perdida de tiempo programando el apocalipsis, si para eso ya nos valemos nosotros solos y con matricula.

  • linux_luthier

    Pero si inteligencia y raciocinio están ligados. Las IA no son verdadera inteligencia, al menos no todavía, por ahora es sólo un nombre.

  • Viper1000

    Una cosa es que pueda realizar excepcionalmente bien una tarea y otra sería que adquiriera conciencia de su propia existencia. Sin esto último, no dejará de ser un conjunto de líneas de código.

  • javron

    Nem’s wet dream :)))

  • BGg

    Cuando las maquinas tengan conciencia de que el ser humano esta llevando a la ruina este planeta sin importarle nada, en ese instante va a empezar nuestra caída. Yo lo haría si tuviera las capacidades de una IA

Lo más leído