domingo, 30 de junio de 2019

¿Qué pasaría si la Inteligencia Artificial gobernara el mundo?


¿Y si en lugar de partidos políticos, presidentes, primeros ministros, reyes, reinas, ejércitos, autócratas, y quién sabe qué más, entregamos todo a sistemas expertos? ¿Qué pasaría si los diseñáramos para que fueran fieles, por ejemplo, a un simple y básico principio: "los seres humanos, independientemente de su edad, sexo, raza, origen, religión, ubicación, inteligencia, ingresos o riqueza, deben ser tratados de manera igualitaria, justa y consistente"?

Los sistemas expertos se rigen por sus principios fundamentales y las inferencias que siguen de ellos. Todo depende de los principios programados en los sistemas, lo que llamamos "heurística". Si el primer principio es "maximizar los beneficios a toda costa", el sistema experto daría consejos muy diferentes. Si el primer principio es "emular a los países desarrollados", el asesoramiento volvería a diferir. ¿Qué significa esto? ¿Significa que los sistemas expertos pueden ser "manipulados"? ¿Significa que los sistemas expertos pueden tener valores, creencias y actitudes? Así es. Más o menos. Lo que realmente significa es que a los sistemas inteligentes se les puede decir cómo tener valores, creencias y actitudes y qué valores, creencias y actitudes deben mostrar. Dado esto, ¿qué deberíamos decirles que hagan?

Hoy en día se da relativamente poca discusión sobre la ética de la inteligencia artificial y los sistemas de valores que permitirán a los sistemas inteligentes "decidir" qué recomendar y qué curso de acciones tomar en situaciones donde está en juego la vida humana, por ejemplo en el caso de los coches autónomos, qué deben hacer cuando se enfrentan al dilema de "atropellar a la anciana-débil contra la joven-mujer-con-gemelos" (una variante del famoso "Problema del Tranvía"). Como este hay muchos otros, pero también hay otros más sencillos como "minimizar el coste de los camiones de larga distancia", en los que un sistema experto basado en la gestión de costes recomendaría reducir el número y/o el coste de los conductores (con recomendaciones sobre cómo lograr ese objetivo), invertir en camiones más baratos (con una lista) o eliminar a los conductores por completo (con camiones autónomos). Si el principio fundamental implementado en el sistema experto fuera "aumentar las oportunidades de empleo en la industria del transporte", las recomendaciones serían diferentes, y no incluirían a los camiones que conducen sin chóferes, al menos no en un futuro próximo.

En estos momentos, el primer principio general de las aplicaciones actuales de los sistemas inteligentes de todo tipo es el ahorro de costes. Las proyecciones son que la aplicación generalizada de la IA y el aprendizaje automático eliminará millones de puestos de trabajo y "ahorrará" miles de millones en dinero y con alta probabilidad decenas de millones de empleos. ¿Quién sabe? Pero, ¿cuál es el principio rector? Ahorrar dinero para hacer dinero, no para proteger empleos. Sí, habrá innovación que estimule la creación de empleo, pero ¿compensará eso las pérdidas? Poco probable. 

Entonces, ¿cuál es la lección? Sin importar el ámbito - salud, automoción, industria, comida rápida, etc. - hay que decidir primero qué principios fundamentales van a regir estos sistemas de Inteligencia Artificial (nada muy distinto a la educación de un humano) porque optimizarán el objetivo que se les dice que deben perseguir y ahí es donde realmente se juega el partido de nuestro futuro, no en si esta tecnología que terminará teniendo resultados emergentes es necesaria o buena en sí misma y por tanto, si se debe avanzar en su desarrollo y generalización de uso.

Nota: reflexión a partir de escritos de Steve Andriole.

lunes, 24 de junio de 2019

50 años... l'chaim!



Para celebrar su 50 aniversario, la banda de Barrio Sésamo fue a la cadena de radio pública NPR a uno de sus Conciertos de Tiny Desk.

Cantaron People in your neighborhood, y otras cuatro canciones.

Precioso.

domingo, 16 de junio de 2019

Hasta el infinito y más allá... bueno, al menos un poquito más cerca ;-)

Aprovechando que el Pisuerga pasa por Valladolid y que hoy es mi cumpleaños me he sacado la tarjeta de embarque para la misión Mars 2020 de la NASA

Aviso, llevaré tortilla de patatas (por supuesto con cebolla), croquetas y filetes empanados, por favor que alguien se ocupe de las cervezas.


domingo, 2 de junio de 2019

La teoría del 'bosque oscuro' de internet


Yancey Strickler, cofundador de Kickstarter, afirma que los internautas se están retirando de la plaza pública de internet, lo que deriva en muchos mundos privados y aislados que no se comunican entre sí, pasando a la condición del bosque oscuro descrito en los la trilogía del Problema de los tres cuerpos de Liu Cixin.

Los bosques oscuros, como los boletines informativos y los podcasts, son áreas de actividad en crecimiento. Al igual que otros bosques oscuros, como los canales Slack, los perfiles de Instagram privados, los tablones de mensajes solo para invitados, los grupos de mensajería, Snapchat, WeChat, y así sucesivamente. Aquí es donde Facebook está evolucionando hacia los Grupos (y tratando de redefinir lo que la palabra "privacidad" significa en el proceso).

Todos estos son espacios donde la conversación sin presión es posible debido a que sus entornos no están indexados, no están optimizados y no han introducido funcionalidades de ludificación. Las culturas de esos espacios tienen más en común con el mundo físico que con Internet.

- Jason Kottke