Este post começou com dois artigos na Digidig.
Abe e tu, e eu, e cada um de nós. Acerca da relação com um algoritmo, por Toni Muzi Falconi.
L’insostenibile leggerezza dell’algoritmo, por Italo Vignoli.
A conversa torna-se mais importante a cada dia que passa. Toni e Italo estão a tentar que os profissionais de comunicação olhem para uma tempestade que se vê no horizonte. Senti que a conversa precisava de dar alguns passos atrás para avançar. Um dos quais é a nomenclatura, o outro está na abordagem.
Peço alguma paciência, pois fiz uma pesquisa mínima para escrever este post. Estou a utilizar algumas referências que tinha no Evernote, a minha própria sensibilidade em relação ao assunto, e o meu esforço em organizar informação para escrever o que segue abaixo. Qualquer coisa que deva ser corrigida pode ser comentada abaixo. Ficarei bastante agradecido por qualquer reparo que tenham.
Formato de dados
Um formato de dados é simplesmente uma estrutura para a nossa informação e deverá ser legível para qualquer pessoa ou sistema. Utilizamos formatos de dados diariamente. Ficheiros Excel ou documentos Word podem ter a mesma informação, mas apenas um deles nos permite manipular os dados e organizá-los em fórmulas. Para as empresas onde os funcionários utilizam dispositivos Windows e Apple, há uma disputa que o Open Office pretende resolver ao padronizar os formatos de dados.
Algoritmo
A palavra é tão usada que corremos o risco de a confundir com outra coisa. Um algoritmo é um conjunto de passos para resolver um problema. Utiliza um input, retirado de sensores ou ficheiros, e devolve informação que o utilizador, ou o sistema seguinte, irá utilizar para um determinado fim.
É uma ferramenta semelhante a um martelo ou a um berbequim. A nossa relação com ela define-se pela simplicidade e deixaremos de a utilizar assim que perder utilidade para os nossos objetivos.
À semelhança de qualquer ferramenta, medimos a sua utilidade sempre que a utilizamos e confiamos na sua qualidade com base na marca que a construiu.
(Acho que é útil distinguir entre algoritmo e uma espécie de gatilho. Por exemplo, o sensor de movimento em alguns edifícios de escritórios acenderá a luz quando detetar a presença de pessoas. Desligar-se-á após um período de inatividade. A simplicidade deste gatilho não deve ser considerada um algoritmo).
Inteligência artificial
Permitam-me arriscar e dizer que uma Inteligência Artificial (IA) começa a formar-se aquando da construção de um sistema capaz de recolher autonomamente dados, comunicar informação a pessoas, e agir com base nessa mesma informação.
A Inteligência Artificial (IA) é a inteligência exibida pelas máquinas. Na informática, uma máquina "inteligente" ideal é um agente racional flexível, que deteta o seu ambiente e toma ações que maximizam as suas hipóteses de sucesso em relação a um determinado objetivo [1]
[1] O paradigma do agente inteligente:
Russell & Norvig 2003, pp. 27, 32–58, 968–972
Poole, Mackworth & Goebel 1998, pp. 7–21 Luger & Stubblefield 2004, pp. 235–240
Hutter 2005, pp. 125–126.
A definição utilizada neste artigo, em relação a objetivos, ações, perceção e ambiente, advém de Russell & Norvig (2003). Outras definições abarcam também o conhecimento e a aprendizagem como critérios adicionais.
Por exemplo, um carro automático receberá o input do utilizador (destino), utilizará um algoritmo para determinar o melhor caminho (coordenadas GPS e informações de tráfego) e conduzirá de forma a evitar obstáculos no caminho: outros veículos, pessoas, sinais vermelhos.
Atualmente, a nossa relação com a IA tem também objetivos prácticos na sua base. Quando escolhemos utilizar um determinado modelo ou uma determinada versão deste carro, essa opção dependerá mais da nossa confiança, onde acreditamos que o seu criador fez um bom trabalho. Comprarias um carro à Tesla ou à Microsoft?
Haverá IAs mais complexas, com algoritmos que nenhum ser humano pode compreender por completo. (Por exemplo, um avião utiliza muitos sistemas complexos, cuja dimensão não conseguimos discernir totalmente)
Relações: Humano-IA, IA-IA
Façamos agora uma pausa e reflitamos sobre como será a nossa relação com estas novas entidades.
Foi isso que fez o Toni, tendo proposto os seguintes indicadores para esta relação.
Como tal, se for verdade que existem pelo menos quatro indicadores principais para ajudar a investigar e avaliar a qualidade de qualquer relação única:
- a confiança na relação por parte dos sujeitos dessa relação;
- a satisfação na relação por parte dos sujeitos dessa relação,
- o compromisso na relação por parte dos sujeitos dessa relação,
- o equilíbrio da influência recíproca na relação por parte dos sujeitos dessa relação... para além de outros indicadores especificamente relacionados com a natureza peculiar dos sujeitos da relação (indivíduo/indivíduo; organização/organização; algoritmo/algoritmo e um com os demais e vice-versa).
Por último, para progredirmos, estas são questões que poderiam ser aprofundadas:
- que baterias de perguntas precisam de ser respondidas pelos dois sujeitos da relação para cada um dos indicadores selecionados?
- que processos de IA precisam de ser criados para permitir que cada algoritmo individual – paralelamente ao único utilizador web – responda à mesma bateria de perguntas?
- que outros indicadores específicos precisam de ser eventualmente introduzidos, para além dos quatro referidos? Por exemplo: na relação entre organização e organização, por vezes é útil introduzir um indicador relativo aos diferentes perfis epigenéticos dos dois temas da relação;
- o que deverá ser considerado como uma razoável influência recíproca no equilíbrio de uma relação para cada um dos indicadores selecionados? Por exemplo: Na relação indivíduo/indivíduo, qualquer desequilíbrio óbvio resultante da resposta pode sugerir a qualquer um dos sujeitos ações para criar um melhor equilíbrio – a exceção poderá ser o indicador de influência recíproca, relacionado com pai/filho, professor/estudante, chefe/subordinado...obviamente, isto terá em conta as especificidades socioculturais do território onde a relação única se desenvolve... e o mesmo se aplicará às demais combinações possíveis.
No limite, podemos imaginar um futuro onde uma empresa existe e consiste exclusivamente numa IA ou um grupo de IAs. As empresas já são comparadas a robôs e os profissionais de comunicação dão o litro para que sejam “Autênticas” e “Humanas”.
O meu argumento é que estas IAs e Algoritmos são tão complexas que acabaremos por medir a confiança que temos nos seus criadores, e não a confiança que temos no sistema em si. Isto não significa que eu rejeitaria qualquer esforço para medir a confiança depositada na entidade artificial. Assim que deixar de haver registos do processo de criação, precisaremos de um diagnóstico criterioso da honestidade da IA.
Em relação a isto, a minha sugestão é que olhemos para outros filósofos da robótica, estabelecendo regras básicas e métodos que permitam manter a IA em cheque. À semelhança das regras da robótica de Asimov. Não será algo infalível, a menos que possamos auditar o código fonte e garantir que essas regras básicas estão presentes e são de facto utilizadas no processo de tomada de decisão.
Inteligência Artificial Consciente
Para tornar as coisas mais complicadas, este é um cenário onde a IA não é consciente de si mesma. Quando uma IA se torna consciente daquilo que é e consegue tomar decisões autónomas, irá mudar a relação que tem connosco e com outras IA. Nesse momento, o papel do criador na construção da IA começará a perder importância, pois não poderá prever os efeitos deste processo autónomo de tomada de decisão e a forma como terá impacto na evolução do sistema que foi construído.
Este cenário continua a implicar que a IA não tenha livre arbítrio. Utiliza a informação e o contexto do meio envolvente e toma decisões com base na sua experiência e orientações.
John Searle fez uma palestra na Google precisamente sobre este assunto.
Os computadores têm livre arbítrio
O próximo passo lógico é questionar em que momento é que a IA possui livre arbítrio. É também onde defino a minha fronteira actual. O tema do livre arbítrio não é algo sobre o qual tenha reflectido com profundidade, por isso perdoem-me por regressar novamente a Searle sobre este tema.
Os computadores são capazes de ter livre arbítrio?
Atualização de 8 de janeiro: Uma perspetiva mais granular
Este tópico alimentou conversas interessantes entre amigos. A primeira das quais foi trazida pela Adriana. Ela referiu que apenas devemos chamar “inteligência” a algo quando esse elemento consegue produzir uma coisa nova. Assim, uma entidade não-humana capaz de processar o mundo à sua volta, e que desenvolve algo novo, pode ser considerada uma Inteligência Artificial.
Numa perspetiva diferente, Nuno Nunes teve a amabilidade de ler o artigo e salientou que, mesmo quando temos acesso ao código fonte, a forma como o sistema funciona pode ser tão complexa que não podemos auditá-lo e aferir a sua honestidade (à falta de uma palavra melhor).
Um exemplo são os Sistemas Deep Learning, onde os algoritmos transmitem dados e informação em diferentes camadas antes de produzir um output.
É também importante referir que, no conceito de algoritmos e IA, existem níveis diferentes de detalhe. Ele explicou que o que descrevi acima é uma função e não o algoritmo em si. O algoritmo é a lista abstrata de instruções, não a sua execução automática. Na IA, existe também o conceito de Agente. O Agente observa o ambiente e executa rotinas específicas com base nessa observação. Tal como aquilo que fiz quando construí o Johnny Five. (Falarei disto mais tarde, quando tiver tempo).
Mas, para os Profissionais de Comunicação, e outros elementos que lidam com as implicações da nossa relação com não-humanos, marcas e empresas, os traços gerais daquilo que constitui as IA são suficientes. Caso contrário, ficaremos bloqueados pela curva de aprendizagem.
