quarta-feira, 24 de maio de 2023

AI systems need Democracy Maps


Governance of superintelligence

Now is a good time to start thinking about the governance of superintelligence—future AI systems dramatically more capable than even AGI.

May 22, 2023

Authors

Sam Altman

Greg Brockman

Ilya Sutskever


Responsible AI, Safety & Alignment


...We believe people around the world should democratically decide on the bounds and defaults for AI systems. We don't yet know how to design such a mechanism, but we plan to experiment with its development. We continue to think that, within these wide bounds, individual users should have a lot of control over how the AI they use behaves.


https://openai.com/blog/governance-of-superintelligence#GregBrockman

quinta-feira, 20 de abril de 2023

Mapas de democracia (um novo paradigma)

Em 22 de março de 2012 criei o Partido Democrata (ler este post). Depois de uma longa hibernação de onze anos ressuscitei-o ontem, depois de me aperceber da revolução das chamadas AIs (inteligências artificiais) e do AGI (artificial general intelligence), bem como da mudança que irá varrer em breve as sociedades humanas que hoje conhecemos.

Em 1998 imaginei o que seria sete anos depois o Google Maps. Esta imaginação deu lugar ao projeto chamado Portugal Digital apresentado no Pavilhão do Território da EXPO '98. Infelizmente as equipas que desenvolveram e programaram a minha intuição venderam a alma a uns diabinhos locais da especulação tecnológica em vez de continuarem a trabalhar comigo. Uma tal arrogância impediu que o algoritmo do Google Maps pudesse ter sido desenvolvido antes de 2006 e no nosso país. Teria sido a maior contribuição da EXPO '98 para mitigar o nosso atraso entre as nações desenvolvidas. Mais tarde, em 2005/2006, imaginei a criação de um Parque Museu-Virtual em Montemor-o-Novo. O município viria a acolher favoravelmente a minha proposta, atribuindo-lhe mesmo a Herdade da Adua como sítio para a sua futura implantação. E imaginei ainda outra coisa em 2012: Democracy Maps. A ideia, desta vez, foi a de poder usar bases de dados geograficamente referenciadas para construir a partir do seu potencial dinâmico a matriz fundacional de uma espécie de democracia global não imposta na ponta de qualquer baioneta. Existem alguns diagramas que merecem agora uma revisão, nomeadamente à luz do aparecimento dos blockchains, do OpenAI (chatGPT, DALL.E, etc.)

O que é que isto tem que ver com arte? Diria que, lendo autores como Claude Lévi-Strauss, André Leroi-Gourhan, Jean-François Lyotard, John Dewey, Alfred Gell, ou o fundamental Immanuel Kant e mantendo presente o impacto que artistas como Kasimir Malévitch, Mondrian, Marcel Duchamp ou John Cage continuam a ter na continuidade das artes, tudo!

quarta-feira, 19 de abril de 2023

Mapas de democracia. Do outro lado do pessimismo

A era dos hiperobjetos

A política vai quase sempre atrás dos factos económicos, demográficos e energéticos, para ser mais preciso. 

Na realidade, a política é o resultado de uma luta de classes um pouco diferente da descrita por Karl Marx, na medida em que se desenvolve como um polígono de vontades e tensões com vários lados e vértices, fruto dos interesses individuais e de grupo, em que alguns vértices são mais pronunciados que outros. 

Estes são, em minha opinião, alguns dos vértices: 

1) energia 

2) procura e oferta de bens e serviços (preços e rendimentos)  

3) produtividade e distribuição da riqueza 

4) pirâmide social

5) atores sociais (poderes, movimentos de massa e eleições) 

6) demografia (pirâmide demográfica) 

7) custos histórico-sociais e culturais (dimensão do Estado e do setor público de bens e serviços). 

A política, nesta topografia, é, sim, o resultado da luta de classes (da agonística dos grupos de interesses, para ser mais preciso), e não uma força criativa propriamente dita, salvo quando os golpes de estado e as revoluções se revelam como destruição criativa. 

Por exemplo, os dirigentes e burocratas de Pequim só começaram a pensar em reduzir as emissões de CO2 quando se deram conta de que estavam a morrer asfixiados no excesso de emissões das suas fábricas alimentadas a carvão. E só começaram a reprimir os 'wet markets' quando sucessivas epidemias afetaram gravemente a saúde pública de centenas de milhões de chineses e a credibilidade da China (que nunca foi muita) no mundo. E também, só agora começam a perceber que atingiram o pico do seu crescimento, sobre uma bolha imobiliária especulativa sem precedentes no planeta. Não têm energia sequer para manter o atual estado de prosperidade relativa (veja-se o que está a acontecer com a falta de gás para aquecer as pessoas neste inverno). Dependem criticamente da globalização económica e financeira. Os políticos, mesmo em ditadura, arrastam-se atrás dos acontecimentos. 

Dito isto, longe de mim, ser contra a Política. O que digo e reafirmo é que a gestão política tradicional entrou em decadência acelerada. Precisamos, de facto, de saber aproveitar as novas tecnologias cognitivas para a gestão democrática e livre da complexidade crescente da espécie humana (e das suas possibilidades de sobrevivência). Isto porque, convém sublinhar, a expansão económica e demográfica dos últimos 200 anos é uma consequência direta do desenvolvimento tecnológico alimentado por energias revolucionárias, abundantes e baratas (pelo menos até 1973). Por sua vez, este crescimento e desenvolvimento só foram possíveis em resultado de um lento processo de libertação dos povos europeus das cangas religiosas e feudais. O Renascimento, nascido na Europa, ainda tem algumas oportunidades para evoluir, nomeadamente se souber aproveitar a Inteligência Artificial e as novas redes sociais, bem como o desenvolvimento dos novos materiais, da biogenética, da fusão nuclear e da computação quântica. Estas são algumas das novas extensões da suposta micro-era geológica a que recentemente deram o cognome de Antropoceno. Há, para citar a original reflexão teórica de Timothy Morton, novos hiperobjetos no horizonte. Hiperobjetos positivos!

A crise energética poderá ser ultrapassada à medida que o ajustamento demográfico global, em curso 'natural' desde 1964, for atingido, isto é, quando a população mundial começar a decrescer lentamente até patamares de sustentabilidade demonstráveis. Será por volta de 2060, ou de 2100? Não sabemos. Seja como for, a aproximação da sustentabilidade demográfica antropológica é mais rápida do que a deterioração climática e ambiental. Este é o ponto que, em suma, justifica o meu otimismo.


Post scriptum — este post foi suscitado por um diálogo com o meu amigo José Lacerda Fonseca. Este diálogo prossegue num grupo restrito onde é possível experimentar argumentos e desabafar sem que o céu e o inferno nos caiam em cima. Deixo aqui um pequeno excerto.

José Lacerda Fonseca — Concordo com o teu otimismo tecnológico. Só q sem uma nova filosofia social pouco valerá pois a tecnologia reverterá para os interesses da elite concentracionaria mundial num cenário de progressiva angústia, instabilidade e violência.  As grandes concentrações de poder sempre estragaram tudo até porq acabam por ser propriedade de loucos degenerados pelo seu proprio poder.

OAM — Sim, alguém terá que pensar essa nova filosofia, mas também esta será mais fruta do tempo, do que da mera vontade espontânea da razão. Nós estamos de acordo que esta filosofia terá que passar por uma redefinição dos mecanismos que possibilitam e garantem a estabilidade da democracia e da liberdade (condicionada pela razão democrática). Talvez na direção de uma espécie de democracia deliberativa humana assistida por máquinas inteligentes (cognitivas, mas também sensíveis!) À falta de melhor conceito, chamo-lhe mapas de democracia. Um arquipélago fractal onde todos os organismos humanos praticam a democracia deliberativa racional...

JLF — Concordo em absoluto. Todavia creio q o elan para desenvolver mapas da democracia ou democracia viva como agora lhe chamo, justamente para acentuar a sua complexidade e evolução orgânica, precisa de novas ideias sobre ética, cultura, economia e sexualidade.

OAM — Concordo.


—in O António Maria, Janeiro 26, 2023

A propósito de hiperobjectos, ler Timothy Morton, por exemplo, aqui.

Um partido teórico

 

Há partidos no poder. Há partidos na oposição. Há partidos constituídos que não elegem ninguém. E pode haver também partidos teóricos, que são basicamente agregados de ideias que podem ou não dar lugar a movimentos e grupos de pressão, que podem ou não dar lugar a partidos convencionais, ou outras formas, eventualmente originais, de produzir política.

Esta reflexão permite transformar este blog num partido teórico.