domingo, 31 de marzo de 2013

Ética para robots


El desarrollo de robots y máquinas cada día más complejos hace inevitable la pregunta ¿deberíamos implementar una ética para robots?



La ficción es una inspiración para la vida. La ciencia ficción lo es para la ciencia. Gran parte de los avances que vemos y veremos han sido precedidos por las visiones de los escritores. Un ejemplo notable son las tres leyes de la robótica de Isaac Asimov, formuladas en 1942.
  • Un robot no puede hacer daño a un humano.
  • Un robot obedecerá las órdenes humanas, a menos que estas contradigan la primera ley
  • Un robot protegerá su propia existencia excepto si esto entra en conflicto con la primera y segunda ley
Resulta curioso lo visionario y a la vez ingenuo que resultaba Asimov. En un sentido, ya prevé robots autónomos, cosa que ahora empezamos a ver. Es ingenuo porque los robots que estamos empezando a fabricar están en buena medida diseñados para matar.

Cada día se diseñan y construyen nuevos robots. Pulgas que graban, arañas espías o cruadricópteros. Los drones del ejercito americano ya no solo realizan misiones de vigilancia. Van cargados con mortíferas bombas. Los trenes sin conductor proliferan. El vehículo autónomo está a punto de invadir nuestras calles.

El punto de inflexión es el momento en que estas máquinas sean autónomas. Los drones están teledirigidos. Un humano decide el objetivo y el momento. Pero como sabemos, cuando los dispositivos se multiplican, su control desborda a los operadores y acaban siendo dotados de autonomía. Un ejemplo de ello es el coche autónomo. Ningún humano lo supervisará. Incluso diseñados para matar, los robots pueden tener alguna ventaja: no tienen odio ni deseo de venganza, no cometen violaciones no toman decisiones en caliente. Una característica de los soldados es el abuso añadido a su función principal.

En la vida te planteas permanentemente problemas éticos. También cuando conduces, aunque la reacción sea automática. Un niño se cruza, ¿freno? Un perro se cruza ¿freno? Si freno, pongo en riesgo la vida de mi familia que me acompaña. O la del coche de al lado. ¿Cuál es la opción moral adecuada? Si desarrollamos un coche autónomo, ¿debería tener moral? Y cualquier otro robot autónomo, ¿debería llevar implantado un módulo moral?

La moral humana es un vidrioso campo en el que las reglas no están en absoluto claras. Esto se pone de manifiesto en los llamados dilemas morales. Imagina que un tren avanza hacia un grupo de personas que morirán aplastadas por él. Tú puedes cambiar el curso de los acontecimientos. Si aprietas un botón, el tren cambiará de vía y aplastará a una única persona que está en la nueva vía de forma que salvarías a cinco pero una moriría. ¿Lo harías? Ahora imagina que las mismas personas están amenazadas pero a tu lado se encuentra un individuo malencarado, sucio y con aspecto ebrio. Si lo empujas a la vía, morirá atropellado, el maquinista parará el tren y las otras cinco personas se salvarán. ¿Lo empujarías?

La mayoría de las personas responden que sí apretarían el botón causando la muerte de una persona para salvar a otras cinco. La mayoría responde que no empujaría al individuo malencarado, salvándolo y causando la muerte de los cinco. Una explicación consiste en que en el primer caso manipulas un botón, algo sin vida y en el segundo caso manipulas directamente a una persona.

Para implantar un modelo en un ordenador tienes que tener claro el modelo. Para implantar ética en un robot, tienes que tener clara la ética. Miles de leyes han sido necesarias para la convivencia humana porque unas simples reglas éticas no sirven. ¿Cómo implementar en los robots algo que no está claro en los humanos?

Hoy por hoy solo encontramos respuestas en la bendita ciencia ficción.

Artículo publicado originalmente en ALT1040

domingo, 17 de marzo de 2013

IBM Watson irrumpe en la sanidad


  • Watson es la Inteligencia Artificial AI en su máxima expresión
  • Mejora el diagnóstico de cáncer desde el 50% humano al 90%
  • Reduce el coste sanitario
Watson, la máquina de IBM que deslumbró al mundo en 2011 ganando en el concurso de TV Jeopardy, se ha puesto a trabajar. IBM, la empresa sanitaria WellPoint y el Memorial Sloan-Kettering Cancer Center han desarrollado unos servicios en la nube que prometen revolucionar la sanidad. Y esto es solo el principio.



La Inteligencia Artificial dormitaba en el mundo académico hasta que en 2011, IBM anunció que un ordenador, Watson, competiría en el concurso de televisión Jeopardy. Watson lo hizo de forma brillante ganando a los dos mejores concursantes de la historia del concurso. Para lograrlo, Watson incorporaba un conjunto de algoritmos que en esencia permitían:
  • Moverse en la ambigüedad (propio de los hombres pero no de las máquinas)
  • Aprender
  • Plantear hipótesis y buscar evidencias
Era obvio que IBM no había invertido una enorme suma para ganar en un concurso. Pronto acuñó el lema Putting Watson to work y formó el grupo Watson Solutions. La primera industria candidata fue la sanidad. El resultado lo hemos visto el 8 de febrero de 2013 con los primeros productos disponibles comercialmente.

El Memorial Sloan-Kettering Cancer Center es la mayor y más antigua institución privada del mundo dedicada al estudio del cáncer. Hasta la fecha, Watson ha digerido más de 600.000 evidencias médicas y dos millones de páginas de 42 revistas médicas. El estudio del cáncer se está haciendo muy complejo ya que cada vez es más personalizado e incluye las características genéticas del paciente. Es una cantidad de información que simplemente escapa la capacidad humana. Watson trabaja con las notas del médico, el resultado de las pruebas diagnósticas, el historial de miles de pacientes o la información en revistas científicas.

Por otro lado, WellPoint, el mayor seguro sanitario de EE.UU., ha trabajado a fondo para adaptar Watson al entorno sanitario. El entorno sanitario es muy complejo en EE.UU. con muchos participantes: el que paga, el que da la atención y el que la recibe. WellPoint trabaja con muchas instituciones además de sus propios recursos. Dos de las necesidades a cubrir son: abaratar los costes de la atención y acelerar el diagnóstico y tratamiento. En este sentido Watson es providencial ya que el médico puede tener un diagnóstico rápido del paciente y solicitar las pruebas adicionales pertinentes. Las pruebas son caras y es esencial realizar solo las que van a aportar información decisiva.
En los ensayos, Watson ha alcanzado un 90% de diagnósticos correctos de cáncer de pulmón en contraste con el 50% de los médicos humanos.
Los tres primeros productos comerciales basados en Watson ya están disponibles. Se trata del Interactive Care Insights para Oncología por parte del Memorial Sloan-Kettering. WellPoint está manejando el Care Guide y el Interactive Care Reviewer, ambos para la gestión inteligente de los pacientes.
WellPoint es un suministrador de servicios sanitarios y los médicos de otras instituciones pueden usar sus productos accediendo desde ordenadores y dipositivos portátiles ya que el servicio está en la nube.

Desde sus comienzos, los algoritmos de Watson han mejorado un 240%. El ordenador que ganó en Jeopardy tenía 90 servidores y 2.880 cores. Pero en el concurso Jeopardy todos los temas eran posibles. Ajustando el sistema al entorno sanitario ahora es posible ejecutar Watson en un solo servidor Power 750 que usa 4us de un rack estándar.

¿Watson en el smartphone?

En el concurso Jeopardy, Watson no reconocía la voz, pero sí lo hace en las nuevas implementaciones. Esto es debido al acuerdo de IBM con Nuance (que también trabaja con Apple para Siri).

La idea es implantar Watson en muchos sectores industriales como la banca o los centros de atención al cliente, los Call Center. Su tecnología se incorporará en otros muchos productos estándar. Y probablemente acabe llegando a nuestros dispositivos móviles que accederán a una nube en la que detrás estará una implementación de Watson.

El futuro de Watson comercial ya ha empezado y los anuncios se sucederán a lo largo del año. La Inteligencia Artificial ha llegado para quedarse entre nosotros.

Artículo publicado originalmente en ALT1040

domingo, 10 de marzo de 2013

Obama invertirá miles de millones en estudiar el cerebro


  • El gobierno de EE.UU. invertirá 3 mil millones de dólares en una década 
  • Las similitudes con el Human Brain Project europeo son muy grandes 
  • En una década conoceremos mucho del mayor enigma existente: el cerebro humano

Unas semanas después de que la UE lanzara el Human Brain Project, la administración de Obama se dispone a emprender un proyecto parecido dotado con miles de millones de dólares según informa el NYT. El cerebro está de moda. No solo eso. Su conocimiento, redundará en enormes ventajas para la ciudadanía y producirá grandes beneficios económicos, similares al Proyecto Genoma Humano.



El presidente Obama, en su discurso sobre el Estado de la Unión, citó la investigación cerebral como un ejemplo de que el gobierno debería "invertir en las mejores ideas".

El NYT dice que en marzo el gobierno de EE.UU. desvelará un plan para invertir hasta 3 mil millones de dólares en la investigación del cerebro en la próxima década. Hace unos días era conocido el lanzamiento europeo del Human Brain Project con un presupuesto de mil millones de euros para los próximos diez años. ¿Algún parecido?

Desde luego los proyectos europeo y americano se parecen en muchos aspectos. La inmensa relevancia que ambos conceden a la investigación del cerebro. Los frutos económicos y sociales que se esperan conseguir. El plazo de una década. La astronómica cifra invertida. El enfoque multidisciplinar. La implicación de muchos pequeños proyectos e institutos de investigación. Tanto que probablemente muchos actores participen en ambos proyectos. No parece posible que prosperen uno sin el otro.

El proyecto, que aún no está en marcha, se denomina Brain Activity Map BAM y los detalles no están claros. El gobierno estadounidense ya invierte en muchos proyectos de gran envergadura a través de los Institutos de Salud N.I.H. y de la agencia de defensa DARPA. Algunos proyectos como el Conectoma o SyNAPSE están financiados por el gobierno.

Pero el nuevo proyecto es de una dimensión mucho más ambiciosa. La comparación con el proyecto genoma humano es inevitable. Este constó de 300 millones de dólares anuales durante una década y terminó antes de tiempo. Un estudio calcula que el retorno de la inversión fue de 800 mil millones hasta el año 2010.

Los pequeños pasos son imprescindibles, pero a veces hace falta más. Llegar a la luna o secuenciar el genoma requieren de un esfuerzo gigantesco y coordinado. No se puede esperar que el resultado llegue si no se ponen los medios. Y sin embargo, el nuevo proyecto es mucho más complicado que los anteriores. Empezando por el objetivo. Llegar a la luna es un objetivo sencillo de definir y medir. Se llega o no se llega. Establecer la secuencia de todas las letras del ADN es también sencillo de definir. Pero en relación al cerebro, ¿cuál es el objetivo? ¿Comprender el cerebro? ¿Cómo se sabe que se ha conseguido?

Un grupo de científicos definió y publicó en Neuron hace unos meses algunas características del proyecto. Estas son algunas de sus reflexiones.

Estudiar los componentes elementales no explica el conjunto. Cuando muchas neuronas trabajan juntas hay propiedades emergentes (como la conciencia) que no se pueden explicar solo conociendo bien una neurona. Y citan, cómo no, a Santiago Ramón y Cajal hablando de los circuitos cerebrales
selvas impenetrables donde muchos investigadores se han perdido
Para encontrar respuesta a los enigmas del cerebro, proponen "registrar cada disparo neuronal de cada neurona en un circuito". Consideran que es posible hacerlo, pero a día de hoy es como cruzar el Pacífico a nado. Esto llevaría a tener no solo el Conectoma, sino el conectoma funcional, no solo todas las sinapsis sino todas las sinapsis trabajando.

Para conseguir tales registros (hoy solo registramos algunas decenas de neuronas simultáneamente) serán necesarios algo así como electrodos nanométricos que emitan wireless. Además, el soporte computacional requeriría superordenadores que hoy no existen.

Es decir, el proyecto propone inventar y usar tecnologías que no solo no existen sino que no sabemos cómo crear o si serán posibles. Pero esto es bueno. Para decir lo que ya sabemos no necsitamos 3 mil millones de dólares.

La relación entre el proyecto americano y europeo, a ambos lados del Atlántico ¿será una competición como la carrera de armamentos o la carrera espacial? ¿Será una competencia como la ocurrida en el estudio de genoma entre el proyecto público y el privado? Lo seguro es que la inversión será muy productiva y que dentro de una década conoceremos mucho mejor la más compleja maquinaria del universo conocido: el cerebro humano.

Artículo publicado originalmente en ALT1040

domingo, 3 de marzo de 2013

El colosal Human Brain Project

La Unión Europea ha dotado al Human Brain Project con 1.000 millones de euros para los próximos 10 años. Este proyecto estrella es denominado flagship, buque insignia. El proyecto es colosal y ha despertado una gran controversia. Es calificado como una simulación del cerebro ya que es el heredero del Blue Brain Project. Sin embargo, es mucho más que eso. Es el esfuerzo más ambicioso para descifrar los enigmas del cerebro.



A menudo se califica a la Unión Europea como un monstruo burocrático con escaso valor. El Human Brain Project demuestra como es posible emprender proyectos de ámbito europeo que den auténtico valor. La dotación de la empresa es fabulosa: 1.000 millones de euros en 10 años. Así, la UE pretende ser pionera un área de absoluta actualidad y de enorme beneficio para los ciudadanos: la comprensión del cerebro. Es de destacar que el país líder, Suiza, ni siquiera pertenece a la UE y que otros países no europeos como EE.UU, Argentina o Japón también intervienen.


Henry Markram es el padre de la empresa. Durante años ha estado trabajando en su predecesor, el Blue Brain Project. De Markham se ha dicho que es un encantador de serpientes: alto, de buena voz, con un discurso seductor, ha destacado por encima del trabajo callado de muchos neurocientíficos. Y que ha conseguido convencer a las autoridades europeas para invertir una suma tan enorme.


Las críticas al proyecto son varias, la mayoría provenientes del mundo anglosajón y notablemente de EE.UU. Un proyecto así, dicen, deja sin recursos a muchos pequeños proyectos también importantes. La simulación del cerebro no es posible, al menos por ahora, dicen otros. Aunque algo de razón puedan tener las críticas están en esencia equivocadas.


Europa carece de planes e instituciones para grandes proyectos. Pero en EE.UU muchas organizaciones gubernamentales apoyan grandes proyectos. Por ejemplo DARPA o los Institutos de Salud NHI. Uno de tales proyectos es el Conectoma. Otro es SyNAPSE para desarrollar un chip neuromórfico en el que interviene IBM. La Agencia de Energía Nuclear promueve el uso de la supercomputación. Y así un largo etcétera.


El Human Brain Project no es una aventura de simulación del cerebro humano, aunque este sea uno de sus objetivos. La meta es comprender el cerebro y encontrar aplicaciones a este conocimiento.

La investigación en neurociencia está muy fragmentada. Y el cerebro es muy complejo. Se puede estudiar desde muchos niveles de organización, desde la genética hasta la conducta. El objetivo del proyecto es lograr la integración de todos estos conocimientos. Y para ello hace falta un modelo. Con un buen modelo, podremos incorporar los datos de todas las investigaciones.

En el lugar más bajo, nos encontramos con los datos moleculares. Cientos de experimentos prueban moléculas que intervienen en el funcionamiento del cerebro. De estas investigaciones salen medicamentos que pretenden aliviar las enfermedades mentales. Pero, desgraciadamente, el avance es muy lento, en buena medida porque no sabemos en qué sitios y de qué forma actúan los medicamentos. Un modelo del cerebro es imprescindible.

Con un buen modelo, podemos realizar una simulación, y es aquí donde encaja la tan cacareada simulación cerebral. Pero el objetivo primero es incorporar todos los datos de las muy diversas investigaciones que se relizan hoy en día así como plantear nuevas investigaciones.

Quizá copiando el modelo de SyNAPSE, el Human Brain Project también quiere desarrollar la supercomputación y la creación de nuevos chips inspirados en la neurociencia. Chips que superen la arquitectura Von Neumann. La apuesta europea se llama Facets mientras que la americana, liderada por IBM es el chip neurosinaptico ya en fase beta.

La dimensión del proyecto es colosal no solo por el dinero. Más de 80 partners intervienen. Decenas de universidades europeas, entre ellas varias españolas con la Universidad Politécnica de Madrid y el Instituto Cajal a la cabeza, así como varias instituciones argentinas. Los gigantes informáticos IBM, SAP o Cray. La nómina de neurocientíficos es notable como el Premio Nobel Torsten Wiesel que deslumbró al mundo con su investigación de la corteza visual del gato o Stanislas Dehaene que estudia la conciencia entre otras cosas.

La principal dificultad estará en la coordinación del enorme equipo. Pero la ambición es imprescindible si se quiere desvelar el órgano más complejo del universo conocido: el cerebro humano.

Artículo publicado originalemente en ALT1040
Fotos: EPLF