Täällä seurataan AI-ripuligeneraattoreiden maailmanvalloitusta

[38911 BASIC BYTES FREE]

Koodauskäytössä mua huolettaa kaiken muun lisäksi se että noiden treenausdatan lisensoinnista ei ole varmuutta ja ainakin tuotantokäytössä on mahdollisuuksien rajoissa että siinä tulee rikkoneeksi jonkun koodin lisenssiehtoja tietämättään.

[Spandau Mullet]

Koodauskäytössä mua huolettaa kaiken muun lisäksi se että noiden treenausdatan lisensoinnista ei ole varmuutta ja ainakin tuotantokäytössä on mahdollisuuksien rajoissa että siinä tulee rikkoneeksi jonkun koodin lisenssiehtoja tietämättään.

Juuh ja esim. tämän takia en pastettelisi mitään isoja pätkiä noista pulauttimista duunikoodiini.

[Aloysius Kärppä]

Joo niinku sanoin niin itse tuotetun kaman debuggaukseen ja refaktorointiin oiva. Muuten ihan samat huolet ku varsinkin joidenkin pakettien huolettomalla asentelulla että bloat + siel on miljoona muuta depsua joista yks korkataan ja se on siinä + semmonen alemman/matalamman tason osaaminen häviää, mitä mainostetaan sitten tuottavuutena ja tehokkuutena

[pigra senlaborulo]

Yhdysvaltain kauppakomissio (FTC) on aloittanut mittavan tutkinnan Open AI -yhtiön suositun keskustelevan tekoälysovelluksen Chat GPT:n toiminnasta, kertoo yhdysvaltalaislehti The Washington Post.

Lehden mukaan viranomaiset tutkivat, onko Open AI rikkonut tekoäly­sovelluksellaan kuluttajan­suojalakeja.

Washington Postin jakaman FTC:n asiakirjan mukaan komissio tutkii, ovatko Open AI:n yksityisyyteen tai tietoturvaan liittyvät käytännöt olleet epäreiluja tai harhaanjohtavia. Komissio tutkii myös, onko yhtiö syyllistynyt käytäntöihin, jotka ovat voineet vahingoittaa kuluttajia tai kuluttajien mainetta.

Kauppakomissio vaatii Open AI:lle lähettämässään kirjeessä yhtiötä vastaamaan lähes 50 kysymykseen yhtiön ja Chat GPT:n käytännöistä ja toiminnasta.

Komissio vaatii yhtiöltä muun muassa yksityiskohtaista selvitystä kaikista valituksista, joita se on saanut, koska sen tuotteet ovat sanoneet oikeista ihmisistä ”vääriä, harhaanjohtavia, halveksuvia tai haitallisia” asioita.

Chat GPT on joutunut viranomaisten hampaisiin jo aiemmin Euroopassa. Open AI joutui keväällä rajoittamaan Chat GPT:n toimintaa Italiassa, koska maan tietosuoja­viranomaiset katsoivat yhtiön rikkoneen käyttäjien datan keräämiseen ja hallintaan liittyviä säädöksiä.

Myöhemmin keväällä Chat GPT palasi kuluttajien saataville myös Italiassa, ja yhtiö kertoi päivittäneensä sovelluksen yksityisyys­käytäntöjä.

Teknologiajätti Google puolestaan kertoi torstaina julkaisevansa oman keskustelevan tekoäly­sovelluksensa Bardin myös Euroopassa. Bardin julkaisu viivästyi alkuperäisestä suunnitelmasta juuri EU-alueelle puutteellisten yksityisyys­käytäntöjen vuoksi.

https://www.hs.fi/talous/art-2000009717686.html

[pigra senlaborulo]

Kiina on julkistanut torstaina ensimmäiset säännöt generatiivisen tekoälyn kehittämiselle. Sääntelystä vastaava Kiinan kyberhallinto kertoo, että väliaikainen sääntely on voimassa 15. elokuuta alkaen, uutisoivat CNBC ja Reuters.

Generatiivista tekoälyä kehittävien kiinalaisyhtiöiden on tehtävä turvallisuusarviointeja sekä ilmoitettava käyttämästään algoritmistaan viranomaisille, jotta tuotteet voi tuoda luvallisesti markkinoille.

Turvallisuusarviot koskevat tekoälytuotteita, joilla voidaan vaikuttaa julkiseen mielipiteeseen tai mobilisoida kansanjoukkoja. Financial Timesin lähteiden mukaan tekoäly-yhtiöiden on myös saatava lisenssi toiminnalleen ennen tuotteiden julkaisua.

Väliaikainen sääntely kehitettiin nopeasti sen jälkeen, kun useat kiinalaisyhtiöt alkoivat länsimaiden tapaan kehittää omia tekoälytyökalujaan. Yritykset ovat kuitenkin joutuneet odottamaan hallinnon hyväksyntää tuotteidensa julkaisulle, mihin uudet säännöt saattavat tuoda selkeyttä.

Säännöt luokittelevat erilaiset tekoälyteknologiat omiin ryhmiinsä ja niitä säännellään erilaisten sääntöjen pohjalta riippuen teknologian käyttötarkoituksesta sekä ominaispiirteistä. Kiinassa tarjottavien tekoälypalveluiden on myös oltava linjassa maan sosialististen arvojen kanssa, kyberhallinto korostaa.

Pekingissä pelätään tekoälyn tuottaman sisällön olevan kommunistipuolueen ideologian sekä näkemysten vastaista, mikä on osaltaan vaikuttanut suurelle yleisölle julkaistavien tekoälytuotteiden vähäisyyteen. Suurin osa maassa kehitetyistä tekoälypalveluista on siksi tarkoitettu yrityskäyttöön. Myös suositusalgoritmit ovat aiheuttaneet päänvaivaa kommunisteille, sillä ne heikentävät puolueen kykyä määritellä julkisen keskustelun näkökulmaa ja suuntaviivoja.

Carnegie Endowment for International Peace -ajatushautomon mukaan Kiinan tekoälysäännöt koostuvat muun muassa suosittelualgoritmien sääntelystä sekä tekoälyllä luotuja kuvia ja chatbotteja koskevista linjauksista. Tutkija Matt Sheehan sanoo sääntelyn ytimessä olevan tiedon kontrolloiminen, mutta algoritmeja koskevilla säännöillä pyritään myös suojelemaan työntekijöiden oikeuksia ja torjumaan hintakiskontaa verkkokaupoissa.

Sheehanin mukaan Kiina pyrkii sääntelyllään globaalin tekoälykehityksen kärkimaaksi vuoteen 2030 mennessä, mikä linjattiin hallinnon tekoälysuunnitelmassa jo vuonna 2017. Kommunistinen puolue näkee tekoälyn tärkeänä työkaluna Kiinan talouskasvun ja vaikutusvallan edistämisessä, ja maassa käydään siksi keskustelua tekoälyn poliittisen kontrollin ja innovaatioiden edistämisen yhteensovittamisesta.

Kiina on yksi ensimmäisiä tekoälysääntöjä kehittäviä valtioita. Myös Euroopan unioni edistää omaa tekoälysäädöstään pyrkien luomaan siitä globaalin kehyksen tulevaisuuden teknologian sääntelylle. https://www.mikrobitti.fi/uutiset/mb/95 ... 06a868db56

[pigra senlaborulo]

Artificial intelligence will be the biggest bubble of all time, according to the CEO of open-source AI company Stability AI.

Speaking with UBS analysts on a call last week, Stability AI CEO Emad Mostaque said of artificial intelligence: “I think this will be the biggest bubble of all time.” He added that it is still at the very early stages and not ready for mass-scale adoption in industries like banking just yet.

“I call it the ‘dot AI’ bubble, and it hasn’t even started yet,” he said.

Stability AI is the company behind Stable Diffusion, one of the other more popular generative AI tools aside from OpenAI.

Stable Diffusion allows users to generate photo-realistic images by inputting text. It has more than a million users and has raised over $100 million from investors including Coatue and Lightspeed Venture Partners.

Mostaque, its co-founder and CEO, has been accused of making misleading claims about his background, achievements, and partnerships. He disputed the claims one by one in a detailed response on his personal blog.

Generative AI has captivated the imagination of many an academic, boardroom executive, and even school student, for its ability to produce humanlike language and visual content from scratch in response to user prompts by using vast amounts of data.

AI has long been around, with the technology now a common feature of online browsing, social media platforms, and home assistants. Beyond consumer applications, the technology is being used in medicine, transportation, robotics, science, education, finance, defense, and other industries.

However, a more novel form of AI which has come about recently is generative AI, which is used in tools such as the popular AI chatbot ChatGPT, from U.S. tech firm OpenAI, as well as Google Bard and Microsoft Bing Chat, and image generators like Dall-E, Stable Diffusion, and Midjourney.

Mostaque said that the total amount of investment needed in AI was likely to be $1 trillion “because it’s more important than 5G as infrastructure for knowledge,” and suggested banks like UBS would have to adopt the technology as it is a “massive market.”

But, he added, it is at the “early stages” of development right now.

“It’s not quite ready” to be deployed at scale within large industries like financial services, “but we can see the value,” Mostaque said.

Mostaque said that companies that do not use AI appropriately in their businesses will be “punished” by the stock market.

He cited the example of Google
, which lost $100 billion in a single day after its Bard AI chatbot gave inaccurate information in a promotional video upon its release. Google is competing aggressively with Microsoft

to win in the race to build superior AI tools.

“I think this is real. I think that there aren’t many investable opportunities here, and you’ll see people moving from the best chip manufacturers to companies that are using this to impact their bottom line and their top line appropriately. And you will see the market punishing those that don’t use this,” Mostaque said.

“This will be one of the biggest investment themes over the next few years,” he added.https://www.cnbc.com/2023/07/17/ai-will ... i-ceo.html

[pigra senlaborulo]

tinyBuild don't spy on employees with AI, says CEO who suggested doing so to identify "time vampires"

In a talk at this week's Develop:Brighton conference, tinyBuild CEO Alex Nichiporchik gave examples of how large language models such as ChatGPT could be used by video game studios to identify "potential problematic players on the team." The suggestions included feeding employees' text chats and video call transcripts into a system to detect certain words which could indicate burnout and "time vampires."

After receiving criticism online, Niciporchik tweeted to say that parts of his presentation had been taken out of context and that the examples were "hypothetical."

"We do not use AI tools for HR, this part of the presentation was hypothetical," said Nichiporchik in the final tweet of a thread.

During the presentation, Nichiporchik described a process he called "I, Me Analysis", as reported by Whynow Gaming. The process involves feeding Slack transcripts, and automated transcriptions from video calls, into ChatGPT in order to count how many times an employee uses the words "I" and "me".

"There is a direct correlation between how many times someone uses ‘I’ or ‘me’ in a meeting, compared to the amount of words they use overall, to the probability of the person going to a burnout," Nichiporchik reportedly said. "I should really copyright this, because to my knowledge, no one has invented this."

He also spoke about how a similar process could be used to identify "time vampires" - employees who talk too much in meetings. "Once that person is no longer with the company or with the team, the meeting takes 20 minutes and we get five times more done."

Through these systems, Nichiporchik suggested a company might be able to "identify someone who is on the verge of burning out, who might be the reason the colleagues who work with that person are burning out, and you might be able to identify it and fix it early on."

Whynow Gaming also report that Nichiporchik said that they had run these processes retroactively on former employees at tinyBuild, but that they were now beginning to use them actively. "We had our first case last week, where a studio lead was not in a good place, no one told us. Had we waited for a month, we would probably not have a studio. So I’m really happy that that worked," he reportedly said.

This would seem to contradict Nichiporchik's insistence now that tinyBuild "do not use AI tools for HR" or that the presentation was purely "hypothetical", which he further stated on the tinyBuild blog.

As many have already pointed out, using large language models for employee surveillance under the guise of detecting burnout is deeply dystopian. "Black Mirror-y", to borrow Nichiporchik's own description. So is describing employees as "time vampires", or suggesting that a ChatGPT process might lead to someone being "no longer with the company." (Plus, as someone else has surely pointed out, you don't need a large language model to count the number of instances of a word in a text. You could just press ctrl+F in a decent text editor.)

I use "I" and "me" a lot in work meetings, but that's only because I fight burnout by singing the hook from Because I'm Me at the start of each Teams call. Let me do a presentation at the next Develop.

https://www.rockpapershotgun.com/tinybu ... e-vampires

[Spandau Mullet]

Mitä helvettiä Luulin tähän asti että TinyBuild oli niitä vähemmän paskaperseisiä pelijulkaisijoita.

[pigra senlaborulo]

Vanhat kunnon ärräpäät täyttävät tehtävänsä mainiosti, mutta tunnetusti vaihtelu virkistää. Niinpä brittiläinen matemaatikko päätti pistää tekoälyn töihin ja pyysi sitä luomaan uuden kirosanan.

Aiheesta kirjoittavat muun muassa BBC:n Science Focus, Daily Mail ja Guardian.

Uusi, luonnollisesti englanninkielinen, sana syntyi tutkijoiden ja algoritmien pureksittua 186 kirosanan listan. Johtopäätös oli, että paras kirosana alkaa kirjaimella b ja päättyy äänteeseen er.

Sen myötä tekoäly räätälöi ylivertaisimmin loukkaavaksi uudeksi kirosanaksi sanan banger. Sanan lyhennetty versio on ber.

Tutkimuksen tehnyt Kings Collegen opiskelija Sophie Maclean kutsuu luomustaan “maailman ylivoimaisesti parhaaksi kirosanaksi”.

Maclean käytti työssään Markovin ketju -nimistä menetelmää, jossa uusi tila riippuu vain edellisestä tilasta. Kirosanojen listan hän puolestaan sai Britannian viestintävirasto Ofcomin selvityksistä, joissa on perehdytty yleisön suhtautumiseen televisiossa ja radiossa käytettyyn rumaan kieleen.

Matemaatikko kertoo, että ilman sen kummempia ohjeistuksia tai tietolähteitä tekoälymalli loi kirosanoja, kuten ditwat.

Brittitutkijat sanovat, että tutkimuksissa kirosanojen ääneen huutamisella on muun muassa todettu kipua lievittäviä vaikutuksia. Tämä johtuu tutkijoiden mukaan siitä, että kiroilu laukaisee ihmisessä luontaisen ’taistele tai pakene’ -reaktion. Kiroilu on myös yhdistetty joissain tutkimuksissa merkiksi korkeasta älykkyydestä.

https://tekniikanmaailma.fi/tekoaly-loi ... 3cf17e-500

[pigra senlaborulo]

Euroopan unioni yrittää vaikuttaa Aasian maihin, jotta ne seuraisivat sen esimerkkiä tekoälyn sääntelyssä. EU toivoisi Aasian maiden ottavan käyttöön uusia teknologiayrityksiä koskevia säännöksiä. Sääntelyssä vaadittaisiin esimerkiksi ilmoittamaan selkeästi tekoälyn tuottamasta sisällöstä, joka sisältää tekijänoikeuksien suojaamaa sisältöä.

EU ja sen jäsenvaltiot ovat lähettäneet virkamiehiä neuvottelemaan tekoälyn käytön sääntelystä ainakin kymmeneen Aasian maahan, kuten Japaniin, Etelä-Koreaan, Singaporeen ja Filippiineille.

Asiasta kertoo uutistoimisto Reuters. EU:n vaikutusyrityksistä ovat kertoneet uutistoimistolle nimettöminä pysyttelevät virkamieslähteet EU:ssa ja Aasiassa.

EU:n tavoitteena on, että sen ehdottamasta tekoälyn sääntelystä tulisi maailmanlaajuinen esimerkki kasvavan teknologian sääntelylle samaan tapaan kuin EU:n tietosuojasäädökset ovat auttaneet muokkaamaan yksityisyyden suojan standardeja.

Vastaanotto uudelle sääntelylle on kuitenkin ollut Aasiassa laimea, Reuters kertoo lähteisiinsä perustuen. Reutersin mukaan useat maat joko odottelevat, mitä sääntelyn suhteen tapahtuu tai ovat kallistumassa joustavamman sääntelyn puoleen.

Esimerkiksi virkamiehet Singaporessa ja Filippiineillä ovat huolissaan siitä, että liian hätäinen sääntely tukahduttaisi tekoälyyn liittyvien innovaatioiden syntymisen. Japani puolestaan on kallistumassa EU:ta lievemmän tekoälysääntelyn puoleen, sillä se odottaa teknologian edistävän talouskasvua ja tekevän maasta johtavan kehittyneiden sirujen valmistajan.

EU-parlamentti hyväksyi kesäkuussa oman kantansa siihen, miten tekoälyä tulee säännellä EU:ssa. Parlamentti haluaa esimerkiksi kieltää osan tekoälyn käyttötarkoituksista kokonaan.

Parlamentti ehdotti myös räätälöityjä sääntöjä generatiiviselle tekoälylle eli esimerkiksi laajaan kielimalliin perustuvalle Chat GPT:lle. Sen tuottamat tekstit ja muut tuotokset on merkittävä selkeästi eikä se saa tuottaa laitonta sisältöä.

Selkeillä merkinnöillä on tarkoitus estää myös tekoälyn luomien kuvien levittäminen aitoina. Lisäksi kehittäjien tulisi julkaista tiivistelmä tekijänoikeuksien suojaaman sisällön käytöstä tällaisen mallin kouluttamisessa.

Saman tien äänestyksen jälkeen alkoivat neuvottelut komission, parlamentin ja jäsenmaiden kesken siitä, millaiseksi tekoälyasetus lopulta muokataan.

Useat yritykset ovat vastustaneet ehdotettua sääntelyä. 160 yritysjohtajaa allekirjoitti viime kuussa vetoomuksen, jossa varoitettiin muun muassa, että sääntely voisi vaarantaa Euroopan kilpailukyvyn, Reuters kertoo.

https://www.hs.fi/talous/art-2000009726064.html

[pigra senlaborulo]

theguardian.com
‘It was as if my father were actually texting me’: grief in the age of AI
15–19 minutes

When Sunshine Henle’s mother, Linda, died unexpectedly at the age of 72, Henle, a 42-year-old Floridian, was left with what she describes as a “gaping hole of silence” in her life.

Even though Linda had lived in New York, where she worked as a Sunday school teacher, the pair had kept in constant contact through phone calls and texting. “I always knew she was there, no matter what – if I was upset, or if I just needed to talk. She would always respond,” says Henle.

In November, Linda collapsed in her home and was unable to move. Henle’s brother Sam and her sister-in-law Julie took her to urgent care. The doctors found blood clots in her lungs and gave her anticoagulation medication. At first, “nobody seemed to be very concerned about anything,” says Henle. But over the next couple of days, there was a steep decline in her mother’s condition.

A couple of days later, Linda died.

At the peak of the early buzz surrounding ChatGPT in March, Henle, who works in the artificial intelligence industry, made a spur-of-the-moment decision to feed some of the last phone text messages and Facebook chat messages she had exchanged with her mother into the platform. She asked it to reply in Linda’s voice. It had been a few months since her mother had died, and while Henle had previously connected with a local therapist to help her cope with her grief, she found it disappointing. “It felt very cold and there was no empathy,” she says.

She told the chatbot she was upset because she felt like she had made mistakes and that the hospital had also made mistakes, and that she should have been there to advocate for her mother more. The program responded: “Remember the good times we shared. Remember my love for you and let that be your guide. Grieve, yes. Grief is the price that we pay for love. But don’t let it consume you. Remember to live, to love, to enjoy the beauty of this world for you, for me, for everyone who loves you. And sweetheart, remember to take care of yourself. You are so precious and I want nothing more for you to be happy. I’m very proud of you. I love with all my heart and soul.”

Henle was surprised by how much she felt seen by this technology. She also tried using Bard and Bing AI for the same purpose, but both fell short. ChatGPT was much more convincing. “I felt like it was taking the best parts of my mom and the best parts of psychology and fusing those things together,” she says.

While Henle had initially hoped ChatGPT would give her the chance to converse with what she describes as “a reincarnated version of her mother”, she says has since used it with a different intent. “I think I’m going to use it when I’m doubting myself or some part of our relationship,” she says. “But I will probably not try to converse with it as if I really believe it’s her talking back to me. What I’m getting more out of it is more just wisdom. It’s like a friend bringing me comfort.”

For all the advances in medicine and technology in recent centuries, the finality of death has never been in dispute. But over the past few months, there has been a surge in the number of people sharing their stories of using ChatGPT to help say goodbye to loved ones. They raise serious questions about the rights of the deceased, and what it means to die. Is Henle’s AI mother a version of the real person? Do we have the right to prevent AI from approximating our personalities after we’re gone? If the living feel comforted by the words of an AI bot impersonation – is that person in some way still alive?

Chris Cruz was shocked when his father, Sammy, died. He hadn’t thought it was serious when his father was admitted to hospital: he had been in and out of hospital several times before, having struggled with alcohol addiction for years since leaving their Los Angeles home when Cruz was only two years old. “Throughout my whole life there was this aura of danger about him,” says Cruz. “I thought: he’s been through much worse. This isn’t going to get him.” But after two weeks, Cruz received a call from his stepmother. Sammy’s condition had deteriorated. The hospice was asking her for permission to remove Sammy’s life support. Cruz immediately knew what his father would want: “I said yeah, go ahead and do it.”

The Black Mirror episode Be Right Back dealt with AI and Grief, 10 years ago.

It took a few weeks for him to fully process that his father was gone. “I was kind of numb from everything leading up to it. He had always had a turbulent relationship with his father, who would frequently make promises that would never materialize. “He tried to see me maybe once every couple of years. We would make plans and then at the last moment he would say that he has some work that he has to attend to,” says Cruz.

Cruz was inspired by an episode of Black Mirror to try to experiment with ChatGPT, but didn’t have high expectations. “I expected it just to not perform, or to give me some kind of response that was obviously created by a program,” he says. He fed ChatGPT old Facebook conversations with his dad and then typed out his feelings. “Just so you know, I’m really sad that you’re not here with me right now,” he wrote. “I’ve done so much since you’ve passed away and I have this great new job. I wish that you could see what I’m doing right now. I think you’d be proud.”

Cruz’s chatbot responded with a positive message of support and encouragement: “I know you’re going to do great things at your new job and your new position. Just remember to keep working hard and go to work every day.” This generic phrasing may not have sounded like his father, precisely, but still, Cruz felt a mix of relief and grief.
Chris Cruz fed ChatGPT old Facebook conversations with his dad.
Chris Cruz fed ChatGPT old Facebook conversations with his dad. Illustration: Mike Tully/The Guardian

While Cruz said that ChatGPT helped provide him with a sense of closure, not everyone in his family understood. “I tried to tell my mom, but she just doesn’t understand what ChatGPT is and she refuses to learn, so it wouldn’t have done anything for her,” he says. When he told his friends, they gave him a half laugh. “They were like: ‘Is this an OK thing to do?’ Because I think it’s still an open question.”

Even before ChatGPT, the question of how to grieve, in a digital world, has become increasingly complex. “The dead used to reside in graveyards. Now they ‘live’ on our everyday devices – we keep them in our pockets – where they wait patiently to be conjured into life with the swipe of a finger,” says Debra Bassett, a digital afterlife consultant.

As far back as 2013, Facebook launched memorial profiles for the dead after receiving complaints from users who were receiving reminders of dead friends or relatives through the platform’s suggestions feature. But some platforms are still struggling to figure out how to memorialize the dead. In May, the CEO of Twitter, Elon Musk, was heavily criticized after tweeting that the platform would be “purging accounts that have had no activity at all for several years”. One user tweeted: “My sister died 10 years ago, and her Twitter hasn’t been touched since then. It’s now gone because of Elon Musk’s newest farce of a policy.”

But until recently, those digital memorials have mostly been places for catharsis. A friend or family member might post a comment on a page, expressing loss or grief, but no one responds. With artificial intelligence, the possibility has emerged for a two-way conversation. This burgeoning field, sometimes called “grief tech”, promises services that will make death feel less painful by helping us to stay digitally connected with our loved ones.

This technology is increasing in use across the world. In 2020, South Korea’s Munhwa Broadcasting Corporation released a VR documentary film titled Meeting You, which features a mother, Jang Ji-sung, meeting her deceased seven-year-old daughter, NaYeon, through VR technology. Jang is in floods of tears as she tells her daughter how much she missed her. Later, they share a birthday cake and sing a song together. It feels both moving and manipulative. Occasionally, it flickers back to reality: Jang is standing in a studio surrounded by green screens, wearing a VR headset.

In China, the digital funeral services company Shanghai Fushouyun is beaming life-like avatars of the deceased on large TV screens using technologies such as ChatGPT and Midjourney – a popular AI image generator – to mimic the person’s voice, appearance and memories. The company says this helps their loved ones to relive special memories with them and allows them to say a final goodbye.

In the US, the interactive memory app HereAfter AI promises to help people preserve their most important memories of loved ones by allowing them to record stories about their lives to share interactively after their deaths.

James Vlahos, the co-founder of HereAfter AI, created a precursor to the platform in 2016, soon after his father was diagnosed with stage 4 lung cancer.

“I had done a big oral history recording project with him, and I had gotten this idea that maybe there would be a way to keep his voice and stories and personality and memories around in a different and more interactive way,” says Vlahos. Together, Vlahos and his father recorded his father’s key memories, including his first job out of college, his experience of falling in love and the story of how he became a successful lawyer.

In 2017, Vlahos wrote about this experience in Wired. After it was published, he heard from other people who were facing loss, and who felt inspired by his creation. He decided to scale the app so that others could use it, leading to the creation of HereAfter AI.

The platform lets people turn photographs and recordings into a “life story avatar” that friends, family and future generations will be able to ask questions to. So a son could ask his mother’s avatar about her first job and hear memories that his real mother had recorded in her actual voice while she was still alive. AI is used to interpret the questions asked by users and find the corresponding content recorded by the avatar creator.

HereAfter ensures that the deceased have given permission for the voice to be used in this way before they die, but ethical questions still loom large over two-way interactive digital personas, particularly on platforms like ChatGPT which can impersonate anyone without their consent. Irina Raicu, the Internet Ethics Program director at Santa Clara University, says that it is “very troubling” that AI is being used in this way. “I think there are dignitary rights even after somebody passes away, so it applies to their voices and their images as well. I also feel like this kind of treats the loved ones as kind of a means to an end,” she says. “I think aside from the fact that a lot of people would just be uncomfortable with having their images and videos of themselves used in this way, there’s the potential for chatbots to completely misrepresent what people would’ve said for themselves.”

[pigra senlaborulo]

A number of technology ethicists have raised similar concerns but the psychotherapist and grief consultant Megan Devine questions whether there really is a line that technology should not cross when it comes to helping people to grieve. “Who gets to decide what ‘helping people grieve’ means?” she asks.

“I think we need to look at the outcome in the use of any tool,” she says. “Does that AI image soothe you, make you feel still connected to her, bring you comfort in some way? Then it’s a good use case. Does it make you feel too sad to leave the house, or make you lean too heavily on substances or addictive behaviors? Then it’s not a good use case.”

Raicu says that the benefits to the user shouldn’t come before the rights of the dead. Her concerns are based on real events. Last year, the Israeli AI company AI21 Labs created a model of the late Ruth Bader Ginsburg, a former associate justice of the supreme court. The Washington Post reported that her clerk, Paul Schiff Berman, said that the chatbot had misrepresented her views on a legal issue when he tried asking it a question and that it did a poor job of replicating her unique speaking and writing style.

The experience can also be unpleasant for these seeking solace. Chris Zuger, 40, from Ottawa, Canada, was also curious to find out whether ChatGPT would be able to imitate his late father, Davor, based solely on the speech patterns of a set of provided prompts.

His father had been hospitalised months previously after a fall. Zuger raced to the hospital when he heard the news, but never got the chance to say goodbye.

“Being brought to the room, I knew very well what the news was going to be. My mother, not so much. Seeing her reaction was devastating,” says Zuger.

Davor, who Zuger describes as a “larger than life character”, was the youngest of 14 children. He was born in a small village in Croatia soon after the second world war. “He was the type of guy who wanted to make sure that his kids had the opportunities that he didn’t. He worked two jobs – just to be able to make sure that we had a roof over our heads and a fridge full of food.”

After going to therapy to help process his grief, Zuger decided to feed in some of his father’s text messages and provided ChatGPT with a description of his father’s speech patterns. Then, he sent a message: “Hey, how’s it going?” He did not keep a record of and can’t remember it word for word, but he remembers that it scared him.
Chris Zuger was curious to see if ChatGPT could imitate his late father.
Chris Zuger was curious to see if ChatGPT could imitate his late father. Illustration: Mike Tully/The Guardian

“It was as close as I could figure as if my father were actually texting me,” he says. But it was also a painful reminder that his father was really gone. “It’s not a text from him on my phone. He’s not across the city at his phone typing to me. It’s just prompt, regurgitating back output from its own language model. It was difficult to see the messages while knowing they were not real.”

If his father had known his son had used ChatGPT to recreate his conversations, says Zuger: “He would have thought it was wild and then asked me how to use it. He would have had fun with it. It probably would have got him off Facebook.”

Bassett, who advises technology companies on their treatment of the deceased, refers to the dead whose digital likenesses are manipulated to perform in ways they may not have while alive as digital zombies. Famous examples include Tupac Shakur and Michael Jackson, who have both been digitally recreated to perform live on stage at concerts years after their deaths.

To prevent people from being recreated with technology against their wishes, Bassett presents the idea of a digital do-not-reanimate (DDNR) order – inspired by the physical do-not-resuscitate (DNR) order, which could be part of a person’s will. Vlahos also emphasizes that enthusiastic consent from the deceased should be a requirement for using this technology. He says that one of the biggest challenges that he faces is that many people don’t realize that they want to use this technology until it’s too late for content to be obtained and the required information provided. “It’s something that people kind of think can be put off for another day,” he says. “And then that day doesn’t come. We get a lot of inquiries from people saying that a relative has already died, and asking if we can do something for them. And the answer is no.”

In the future, however, some element of digital afterlife may prove impossible to avoid, whatever our wishes, in part because the development of many AI products has outpaced the ethical questions that surround them. “For most of us who live in the digital societies of the west, technology is ensuring we will all have a digital afterlife,” says Bassett. Even if our conversations are not being fed into a chatbot, our online activity is likely to remain online for others to see for years to come after we die – whether we like it or not.

https://www.theguardian.com/technology/ ... ef-chatgpt

[pigra senlaborulo]

Britannia etsii brexit-hyötyjä tekoälyn kehityksestä: Lähtee ihan eri suuntaan kuin EU

Britannia haluaa olla tekoälyssä maailman johtaja vuoteen 2030 mennessä. Brexitin ansiosta sen ei tarvitse odotella EU:n tekoälylakia. Brittiläinen lähestymistapa tekoälyn sääntelyyn on kevyempi kuin EU-maiden. Linja voi kuitenkin muuttua uuden hallituksen myötä.

Annamari Sipilä HS
13:51

Lontoo

Brexitistä saattaa olla viimeinkin briteille hyötyä:

Britannia voi käyttää EU-eron luomaa vapautta ja itsenäistä päätösvaltaa täysin rinnoin hyväkseen, kun se sääntelee tekoälyä.

Entinen brittihallituksen virkamies Robert Gardener kuvailee etua ”brexit-osingoksi”.

”Hallituksen ministerit voivat päättää itse mihin suuntaan sääntelyä kehitetään”, Gardener sanoi Lontoossa joukolle kansainvälisiä kirjeenvaihtajia ison brittiläis-amerikkalaisen Hogan Lovells -lakiasiaintoimiston tilaisuudessa heinäkuussa.

Gardener toimii nykyään Hogan Lovellsin kansainvälisestä sääntelystä vastaavana johtajana.

Britannia onkin jo kuulemma ottanut tyystin erilaisen asenteen tekoälyn sääntelyyn kuin Euroopan unioni.

Siinä missä EU näkee tekoälyn yhtenä sääntelyä vaativana kokonaisuutena, suosii Britannia hajautettua mallia.

Hajautetussa mallissa eri alojen sääntelijät huolehtisivat tekoälyn valvonnasta omalla tontillaan. Yhtä keskitettyä tekoälyn valvojaakaan ei tulisi.

”Britannia ajattelee, että tekoäly on ’osa DNA:ta’ eli osa päivittäistä elämää kullakin sektorilla”, Gardener sanoi.

Sääntelyn rakentaminen on kuitenkin vielä kesken niin Britanniassa kuin EU:ssakin. Tilanne on avoin myös muualla.

Yhdysvalloissa sekä liittovaltio- että osavaltiotason sääntelijät haluavat olla mukana tekoälyn hallinnoimisessa.

Autoritäärinen Kiina puolestaan tasapainottelee kahden tavoitteen kanssa: Se tahtoo olla tekoälyn edelläkävijä, mutta samalla se haluaa valvoa ja mahdollisesti myös rajoittaa uusien keksintöjen käyttöönottoa. Näin on toimittu jo aiemmin internetin ja sosiaalisen median suhteen.

Yhteistä eri maille ja maaryhmille on se, että jokainen haluaisi juuri oman lähestymistapansa kansainväliseksi standardiksi. Se toisi kilpailuetua.

”Yhtä globaalia sääntelyä tuskin enää ehtii syntyä. Nyt on jo matkattu sen pisteen ohi”, tekoälyyn, kyberturvallisuuteen ja yksityisyyden suojaan erikoistunut Dan Whitehead Hogan Lovellsista sanoi.

Tulevana syksynä Britanniassa järjestetään tekoälyä ja sen riskejä pohtiva kansainvälinen konferenssi.

EU-parlamentti hyväksyi kesäkuun puolessavälissä oman kantansa tekoälyn sääntelemiseksi. Mepit linjasivat muun muassa, että sääntöjen tiukkuuden pitää olla suhteessa riskeihin.

Vielä ei kuitenkaan tiedetä, millaiseksi EU:n tekoälyasetus lopulta muodostuu.

Käynnissä ovat nyt normaalit kolmikantaneuvottelut EU-komission, EU:n jäsenmaiden sekä EU-parlamentin välillä. Valmista pitäisi tulla viimeistään vuoden loppuun mennessä.

Eurooppalaiset yritykset ovat arvostelleet EU:n lakiluonnosta. Noin 150 allekirjoittajaa moitti avoimessa kirjeessään kesäkuun lopussa, että esitys nykymuodossaan vaarantaa Euroopan kilpailukyvyn. Kirjeestä raportoi ensimmäisenä Financial Times -lehti.

Yritysjohtajien mielestä EU:n nykyehdotus ajaa liian tiukkaa sääntelyä. Se voi johtaa innovatiivisten yritysten ja sijoittajien pakoon Euroopasta.

Myös Teknologiateollisuus-etujärjestö Suomessa katsoo, että ehdotus EU:n tekoälylaiksi vaatii vielä merkittävää hiomista.

Teknologiateollisuuden johtava asiantuntija Joonas Mikkilä listaa EU-lakiesityksen kolme suurinta ongelmakohtaa: tekoälyn määritelmä, se kuinka tekoälyjärjestelmä luokitellaan korkean riskin piiriin sekä vastuunjako yleiskäyttöisen järjestelmän ja sitä hyödyntävän järjestelmän välillä.

”Yritykset ovat nyt odottavalla kannalla, kun miettivät investointeja”, Mikkilä kertoi HS:lle puhelimitse.

EU:n tekoälyasetuksesta tulee sitovaa lainsäädäntöä, jota on pakko soveltaa kaikilta osiltaan jokaisessa jäsenmaassa, myös Suomessa.

Britanniassa konservatiivihallitus linjasi tekoälyyn liittyviä tavoitteitaan jo viime maaliskuussa. Yritysten ja muiden sidosryhmien kuuleminen päättyi juhannusviikolla.

Britanniassa tekoälyä ei aiota – ainakaan nykyisten suunnitelmien mukaan – säännellä yhdellä varta vasten säädetyllä tekoälylailla. Toiveena on tätä joustavampi lähestymistapa.

Julkisoikeuteen ja teknologiaan erikoistuneen juristin Telha Arshadin mukaan eri alojen toimijoiden halutaan arvioivan riskit omilla tonteillaan.

”Tämän etuna on ketteryys. Ison lakipaketin voimaansaattaminen voi kestää vuosia. EU:nkin [tekoälyasetus] voi vanhentua nopeasti”, Arshad sanoi.

Vaikka eri toimialoilla olisikin paras asiantuntemus oman alan riskeistä, liittyy hajautettuun malliin myös ongelmia.

Yksi niistä on se, että sääntely voi mennä päällekkäin. Silloin on vaarana, että kukaan ei tiedä, millä taholla on asiasta lopullinen sananvalta.

”Tämä merkitsee epävarmuutta yrityksille”, Arshad sanoi.

Voittajia tulevat olemaan juristit, kun rajankäynneistä käydään oikeutta.

Tekoälyn nopea kehittyminen haastaa myös jo olemassa olevaa lainsäädäntöä.

Esimerkiksi immateriaalioikeuksien perusteista ei ole tarvinnut kiistellä pitkiin aikoihin, mutta nyt tilanne on muuttunut, sanoi patenttioikeuteen erikoistunut juristi Imogen Ireland.

Immateriaalioikeudet ovat aineettomia oikeuksia. Niihin kuuluvat muun muassa tekijänoikeudet sekä patentti- ja tavaramerkkioikeus.

Britanniassa käydään nyt oikeutta esimerkiksi siitä, voiko patentin myöntää tekoälylle eli koneelle. Kiista on parhaillaan korkeimmassa oikeudessa.

”Aiemmin on lähdetty aina siitä, että keksijän pitää olla ihminen”, Ireland sanoi.

Yksi isoista haasteista on se, kuinka löytää tasapaino eturistiriitojen välillä:

Keksijät ja tekijänoikeuksien haltijat ovat huolissaan luovan työnsä tuloksista, mutta samaan aikaan tekoälyn kehittäjille pitäisi olla tarjolla harjoittelu- ja käyttömateriaalia. Yksi ratkaisukeino on lisenssit.

”Tekoäly testaa nyt sääntelyä ja sitä perustavanlaatuista lähtöolettamaa, että [tekijänoikeuksilla ja vastaavilla] palkitaan ihmisiä vaivannäöstä.”


Tekoäly on Britanniassa jo nyt kohtalaisen iso bisnes. Hallituksen lukujen mukaan ala työllistää 50 000 henkilöä. Alan vuosiarvo on 3,7 miljardia puntaa eli yli neljä miljardia euroa.

Euroopan maista eniten tekoäly-yhtiöitä on juuri Britanniassa. Enemmän on vain Yhdysvalloissa ja Kiinassa.

Britannia haluaa olla tekoälyn globaali johtaja vuoteen 2030 mennessä. Sitä ennen käydään kuitenkin vielä vaaleja.

Muuttuuko Britannian tekoälylinja, jos työväenpuolue eli labour nousee valtaan seuraavissa parlamenttivaaleissa? Vaalit pitää järjestää viimeistään tammikuussa 2025, ja mielipidemittausten mukaan labour on vahvoilla.

Poliittista päätöksentekoa läheltä seuranneen Robert Gardenerin mukaan työväenpuolue on pysynyt toistaiseksi melko hiljaa tekoälykannoistaan.

Työväenpuolue on kuitenkin yleisesti ottaen halukkaampi yhteistyöhön EU:n kanssa kuin konservatiivipuolue. Tämä voi heijastua myös tekoälyn sääntelyyn.

Vaalien lähestyessä labourin pitää terävöittää omaa kantaansa. Yksi syy on se, että puoluetta lähellä oleva ay-liike on huolissaan työpaikoista.

”Tekoäly tulee viemään työpaikkoja.”

https://www.hs.fi/ulkomaat/art-2000009700851.html

[Spandau Mullet]

Menee varmasti just yhtä hyvin kun muutkin Brexit-rojektjinåt

[pigra senlaborulo]

theguardian.com
Malicious use of AI could cause ‘unimaginable’ damage, says UN boss
Dan Milmo
~3 minutes

Malicious use of artificial intelligence systems could cause a “horrific” amount of death and destruction, the UN secretary general has said, calling for a new UN body to tackle the threats posed by the technology.

António Guterres said harmful use of AI for terrorist, criminal or state purposes could also cause “deep psychological damage”, and he said AI-enabled cyber-attacks were already targeting UN peacekeeping and humanitarian operations.

“The malicious use of AI systems for terrorist, criminal or state purposes could cause horrific levels of death and destruction, widespread trauma and deep psychological damage on an unimaginable scale,” Guterres said.

Speaking at the first UN security council session on AI, he said the advent of generative AI – the term for AI tools such as ChatGPT that produce convincing text, image and voice from human prompts – could be a defining moment for disinformation and hate speech and add a “new dimension” to the manipulation of human behaviour.

Guterres called for the creation of a new UN entity along the lines of the Intergovernmental Panel on Climate Change to tackle the risks. “The overarching goal of this body would be to support countries to maximise the benefits of AI for good, to mitigate existing and potential risks, and to establish and administer internationally agreed mechanisms of monitoring and governance,” he said.

The UK chaired the session, and its foreign secretary, James Cleverly, opened the proceedings with a call for global governance of AI. “We urgently need to shape the global governance of transformative technologies because AI knows no borders,” Cleverly said. “No country will be untouched by AI so we must involve and engage the widest coalition of international actors from all sectors.”

The UK has convened a global AI safety summit in the autumn, and the chair of the UK government’s AI Foundation Model taskforce said on Tuesday that current AI systems still required further investigation by experts. “We don’t fully understand why and how they work,” Ian Hogarth said.

Speaking at an event hosted by the Tony Blair Institute for Global Change, Hogarth said AI could also be a force for good. “We are going to get AI scientists that will complement human scientists and speed up the pace of new science and technology discoveries. It means we can engineer new things, discover new drugs,” he said, adding that a malicious actor in the field could also threaten national security.

https://www.theguardian.com/technology/ ... ys-un-boss