Ponent 212  : Prof. Carles Sierra

Tema : «IA: els interrogants que ens interpel·len»

 

Des de Senior’s Club Empresarial busquem sempre temes d’interès i d’actualitat que ens permetin analitzar el món amb més criteri. L’expressió de l’any 20202 ha esdevingut “intel·ligència artificial”. La popularitat de ChatGPT ha posat la cirereta final a un any en què l’evolució contínua de les intel·ligències artificials generatives ens han deixat amb la boca oberta. L’exponencial quantitat de dades accessibles a internet alimenten aquesta tecnologia. Per posar fill a l’agulla el professor Carles Sierra va participar al dinar-col·loqui de SECE el passat 25 de gener amb el títol de: IA: els interrogants que ens interpel·len.

Carles Sierra és professor, investigador i director de l’Institut de Recerca en Intel·ligència Artificial (IIIA) del Consell Nacional de Recerca del CSIC.

És professor adjunt de la Western Sydney University. El seu treball de recerca es focalitza en els sistemes intel·ligents distribuïts i en les tecnologies de l’acord, com interactuen els agents i com dissenyar marcs per a la interacció entre aquests.

Ha participat en més de quaranta projectes de recerca finançats per la Unió Europea, rebent el Premi de Recerca d’Agents Autònoms ACM/SIGAI el 2019. És un dels coordinadors del #48 de la revista IDEES i autor d’articles entre d’altres “IA: los interrogantes que nos interpelan” (https://revistaidees.cat/es/ia-interrogants-que-interpellen/) Revista IDEES Núm. 48. Us recomano la seva lectura.

Per centrar el debat el professor Sierra va començar el seu col·loqui donant les diferents definicions de IA i subratllant la que aporta la AI Act que se està acabant de definir al parlament europeu i que ha de estar operativa a finals de 2023: Un algoritme es intel·ligència artificial si es capaç d’aprendre, de raonar o de modelar.

Ha donat unes pinzellades de la historia de la intel·ligència artificial i com s’ha anat incorporant com a tecnologia rellevant al nostre ecosistema des de Ramon Llull passant per Turing, la primeres màquines de jocs d’atzar(Deep Blue etc.) i el moment actual amb inversions massives de totes les potencies econòmiques i empreses tecnològiques.

Les ingents inversions que els estats i les empreses estan fent en aquesta tecnologia per ser estratègicament capdavanters farà que cada cop estigui mes present en diferents àmbits del nostre mon.

El següent punt importat que ha tractat el professor Sierra ha estat la importància de les enormes quantitats de dades que utilitzen aquests sistemes i la necessitat de evitat biaixos i que els organismes públics i privats posin a l’abast de tothom les dades no sotmeses a privacitat (dades obertes).

Així mateix ha fet èmfasi en el problema del consum d’energia per aquests sistemes tan intensius en gestió de dades i capacitat de processament. Com a exemple, per obtenir la versió actual de ChapGPT es van consumir 1.300MWh.

Davant de la noves experiencias educatives associades al que s’anomena “Adaptive Education” basades en IA pren gran rellevància la creació de continguts. Amb aquest sistemes el alumnes van avançant al seu ritme i es crea un model individual que defineix el futurs problemes o capacitats per cadascú.

Sobre el tema ètic s’han de poder evitar situacions d’explotació manifesta com la subcontracta a Kenya de Open AI (GhapGPT) per detectar frases de odi i pagant menys de 2$ l’hora. Aquest punt ha estat molt interesant amb exemples com el del malalt imaginari i el raonament completament diferent de la majoria que prenen les persones psicòpates. En base a això en fonamental que la moral de la IA ha d’estar basada en grans comunitats, basades en el grup, no en l’individu.

Abordant el tema “Responsible AI” ha de existir tota una regulació, el mes global possible, per evitar i/o prohibir sistemes basats en IA, Armas letals, conducció autònoma etc. Actualment se estant creant agencies que controlin y homologuin aquests sistemes abans de la seva implantació. En el cas d’Espanya es molt recent la creació de L’Agencia de Supervisió d’Intel·ligència Artificial (AESIA)amb seu a A Coruña.

És molt important crear un nou ordre social i tecnològic amb democràcia liquida que ens permeti tenir control sobre la tecnologia i no seguir com ara moguts per interessos econòmics així com la enginyeria de valors, com ficar principis ètics en el codi de sistemes (value-awareness)

Un altre bloc de la xerrada ha versat sobre “Generative AI” que es refereix a la intel·ligència artificial que pot generar contingut nou, en lloc d’analitzar o actuar sobre les dades existents. Els models d’IA generativa produeixen text i imatges: continguts per l’educació, codi de programa, poesia, pintures etc. La pregunta és: Com compensar als creadors originals d’alguna forma?

Y per finalitzar ens ha assenyalat alguns punts del futur mes proper:

  • La IA ens ajudarà definitivament a salvar la barrera idiomàtica amb traductors simultanis en temps real,
  • Esdevé eina fonamental per democratitzar l’ensenyament i
  • Pren un paper protagonista en el serveis de diagnòstic i monitorització del sistemes de salut.

Un cop finalitzada la xerrada es va obrir el torn de preguntes, iniciat pel debat de si alguns sistemes ben coneguts poden considerar-se o no IA, diferencia entre automatització e intel·ligència artificial, continuant pel modus en que funciona ChapGPT, tan en boca de tots aquests dies, la responsabilitat social (assegurances) del sistemes de IA, l’explicabilitat digital, la regulació, el reconeixement facial etc.

Finalment, Josep Ballart, president de Senior’s Club Empresarial va donar fer finalitzat el col·loqui, acomiadant al ponent i agraint la seva exposició i convidant-ho, com sempre, a participar en futurs esdeveniments.

(Crónica Sr. Cèsar Sierra)

Galeria de fotos: