Täällä seurataan AI-ripuligeneraattoreiden maailmanvalloitusta

[pigra senlaborulo]

windowsin puolella on muutenkin melkeinpä kaikki microsoftin lisäkilkkeet pois päältä ja annan pelkästään turvapäivitysten asentua, niin sopii yrittää veijo azure-bing

[38911 BASIC BYTES FREE]

[pigra senlaborulo]

sähköpostilla

Hisseissä ja koulubusseissa on hätäjarrut, ja myös tekoäly tarvitsee hätäjarrun. Näin sanoi Microsoftin johtaja Brad Smith viime viikolla Suomessa käydessään.

”Jos joku käyttää tekoälyä automatisoidakseen sähköverkon, vesijohtoverkon tai vaikkapa kaupungin liikennevalojen toimintaa, täytyy varmistaa, että tekoäly on aina lopulta ihmisen hallinnassa niin, että sen voi sulkea pois päältä tai että sen toimintaa voi hidastaa.”

”Tämä ei tarkoita, että hätäjarruja tarvittaisiin kaikkialla, missä on tekoälyä − ei sitä tarvita vaikkapa Spotifyn tekemiin musiikkisuosituksiin. Mutta kaikilla elämän kannalta kriittisillä alueilla tekoälyt tarvitsevat hätäjarruja. On päätettävä siitä, millaisia ne ovat tekniikaltaan ja kuka vastaa niiden käytöstä.”

Brad Smith kuuluu Microsoftin ylimpään johtoon. 30 vuotta Microsoftin palveluksessa työskennellyt Smith vastaa muun muassa Microsoftin yhteiskuntasuhteista, kyberturvallisuudesta, vastuullisuudesta – ja tekoälystä.

Smith kävi marraskuun alussa tapaamassa muun muassa pääministeri Petteri Orpoa ja suomalaisia yritysjohtajia – ja lyhyesti myös suomalaisia toimittajia.

Sain haastatella Smithiä kollegojen edessä Teknologia-akatemiassa, jonka Teknologiateollisuus, Journalistiliitto ja Suomen Akatemia järjestävät toimittajille. Aiheena oli tämän päivän kuumin teknologia, tekoäly.

Microsoft on tekoälyn jättiläinen. Se on ChatGPT-palvelun luoneen OpenAI:n suuri omistaja. Yhtiöllä on myös OpenAI:n kielimalliin (GPT 4.0) perustuva tekoälypalvelu, jonka nimi muuttui juuri Bingistä Copilotiksi, ja parhaillaan se tuo tekoälyä lukuisiin ohjelmistoihinsa (kuten Word, Excel, Powerpoint, Outlook ja Teams) samalla Copilot-nimellä. GitHub Copilot on yhtiön tekoälyä hyödyntävä työkalu ohjelmistokehittäjille. Vastikään Microsoft julkisti omat tekoälysirunsa.

Miten Microsoft-johtaja näkee tekoälyn tulevaisuuden?

Brad Smithin mukaan näemme tulevaisuudessa paljon lisää OpenAI:n kehittämän GPT-4.0:n tapaisia kehittyneitä tekoälymalleja, ja ne kehittyvät jatkuvasti vahvemmiksi ja kyvykkäämmiksi. Malleihin tulee enemmän dataa ja erilaisia muuttujia. Mitä uudempi malli, sitä enemmän yhteyksiä se osaa luoda datan välillä.

”Tämä vaatii valtavan määrän laskentavoimaa.”

Smithin mukaan näemme myös tekoälymalleja, jotka ovat kapeita mutta vahvoja jollain tietyillä alueilla. ”Ne tekevät vain joitain asioita, mutta näitä ne tekevät todella hyvin.”

Vielä laaja-alaisemmin vaikuttava mullistus tulee Smithin mukaan olemaan erilaisten tekoälymalleihin pohjautuvien sovellusten yleistyminen ja tekoälyn lisääminen jo olemassa oleviin sovelluksiin ja palveluihin.
Valvonta lisääntyy

Kun tekoäly vahvistuu ja se vaikuttaa monien palvelujen taustalla, tarvitaan myös uudenlaista säätelyä. Sitä tehdään parhaillaan sekä EU:ssa että Yhdysvalloissa. Brad Smithin Suomen-vierailua edeltävällä viikolla Yhdysvalloissa presidentti Joe Biden antoi niin sanotun presidentin asetuksen (executive order) tekoälyn säätelystä, ja samoihin aikoihin 27 maan valtion edustajat ja teknologiayhtiöiden johtajat kokoontuivat Ison-Britannian Bletchleyssä keskustelemaan tekoälyn kansainvälisestä säätelystä. EU:n laaja tekoälyä säätelevä asetus AI Act on parhaillaan työn alla.

Brad Smith on Microsoftin ykköslobbari, ja ollut mukana vaikuttamassa näihin kaikkiin.

”Pystyisikö joku käyttämään tekoälyä luodakseen seuraavan pandemian esimerkiksi biologisen aseen avulla? Voisiko joku murtautua tekoälyn avulla sähköverkkoon tai käyttää tekoälyä kyberhyökkäyksessä? Valkoinen talo on hyvin fokusoitunut varmistamaan, että tekoälymalleja ymmärretään, ja että niiden riskien kartoitus ja hallinta on järjestelmällistä”, Smith kertoo.

Sekä Washingtonissa että Bletchleyn kokouksessa päätettiin luoda tekoälyn valvontaan erityisiä turvallisuusinstituutteja.

”Nämä ovat pohjimmiltaan viranomaisia, jotka testaavat uusia kehittyneitä tekoälymalleja.”

Smith uskoo, että tulevaisuudessa tekoälyjen testaukselle ja käyttöönotolle tulee tietyt turvallisuutta varmistavat vaatimukset, aivan kuten nyt uusilla autoilla ja lentokoneilla. Myös tekoälymalleihin perustuvien sovellusten turvallisuuteen tulee oma sääntelynsä, hän uskoo.

Pitääkö Microsoftin tapaisten yhtiöiden siis avata omien tekoälymalliensa rakennetta avoimemmin yleisölle ja viranomaisille?

”Uskon, että vastaus on kyllä. Näemme tässä todennäköisesti kaksi ulottuvuutta. Todennäköisesti [tekoälymallien suunnittelijat] joutuvat malleja luodessaan raportoimaan tiettyjä asioita tietyille viranomaisille. Näemme todennäköisesti jonkun sortin viranomaisvalvontaa aina kun uuden sukupolven tekoälymalleja koulutetaan suurilla datamäärillä.”

”Näemme myös enemmän raportointia suurelle yleisölle. Akateeminen yhteisö haluaa todennäköisesti käyttää näitä malleja, tehdä omaa tutkimusta ja testausta − ja se on hyvä asia.”

”Lisäksi tulemme näkemään [yhtiöiltä] vuosittaisia raportteja, jotka keskittyvät tekoälymallien läpinäkyvyyteen (transparency reports).”

EU:n tekoälyasetuksen hän arvioi valmistuvan viimeistään vuoden päästä, kenties jo aiemminkin.
Ainutlaatuinen data useamman mallin käyttöön

Esimerkiksi ChatGPT perustuu niin sanottuun laajaan kielimalliin, jotka on koulutettu tunnistamaan sanojen merkitystä ja keskinäisiä yhteyksiä valtavan datamäärän avulla. Kenen dataa tekoälymallin kouluttaja saa käyttää?

Turvallisuuden ja säätelyn lisäksi tekijänoikeudet ovatkin yksi tekoälykehityksen kuuma kysymys.

Smith sanoo näkevänsä kaksi tekijänoikeuksiin liittyvää asiakokonaisuutta. Ensimmäinen on: Mitä jos tekoäly tuottaa sisältöä, joka loukkaa jonkun tekijänoikeutta? Hänen mukaansa Microsoft on luonut tätä varten omiin palveluihinsa arkkitehtuurin ja turvakäytännöt, joiden pitäisi taata, että näin ei käy.

Jos asiakas toimii Microsoftin käytäntöjen puitteissa ja siitä huolimatta tekoälypalvelu tuottaa sisältöä, joka rikkoo tekijänoikeuksia, Microsoft ottaa asiasta vastuun, Smith sanoo.

Entä tekoälymallien koulutukseen käytetty data? Smith sanoo uskovansa, että syntyy joko sääntöpohjainen tai vapaaehtoisuuteen pohjautuva järjestelmä, jossa sisällön omistajat voivat halutessaan kieltää oman datansa käytön tekoälymallien koulutuksessa.

”Suurin osa todennäköisesti antaa luvan datansa käyttöön. Todennäköisesti jotkut uutisorganisaatiot haluavat maksun oman sisältönsä käytöstä”, Smith arvioi.

Microsoft-johtaja kuitenkin kannattaa mallia, jossa laajoja, ainutlaatuisia data-aineistoja koskevat sopimukset olisivat monenkeskisiä, jolloin ne olisivat useampien tekoälymallien kehittäjien käytettävissä. Tämä edistäisi kilpailua.

Tämän periaatteen olisi hyvä ulottua myös tekoälymallien rakentajien hallitsemaan dataan, kuten Microsoftin omistaman LinkedInin valtavaan, ainutlaatuiseen dataan tai Googlen Youtuben sisältöihin. Kilpailun kannalta olisi hyödyllistä, ”jos me, jotka rakennamme tekoälymalleja ja omistamme jonkun data-aineiston, toimisimme niin, että se olisi muidenkin tekoälymallien tekijöiden käytettävissä”, Smith sanoo.
Tekoälytaidot kuntoon

Tekoäly vaikuttaa jo ja tulee vaikuttamaan voimakkaasti työmarkkinoihin. Osan työpaikoista se hävittää, mutta luo myös uutta työtä − ja muuttaa sitä työtä, mitä nykyisin teemme. Osa ihmisistä saa uusia työmahdollisuuksia ja lisää tuloja, toiset köyhtyvät.

Miten hallitusten tulisi varautua tekoälyn vaikutuksiin työmarkkinoilla, Brad Smith?

”Tärkeintä on valmistella väestöä muutokseen ja huolehtia siitä, että ihmisillä on taitoja, joita menestyminen vaatii. Lähes jokaisen työn sisältö muuttuu”, Smith ennustaa.
https://tekniikanmaailma.fi/talta-naytt ... aydessaan/

[Spandau Mullet]

Hisseissä ja koulubusseissa on hätäjarrut, ja myös tekoäly tarvitsee hätäjarrun.

Ehdin jo virkkeen ensimmäisestä lauseesta pelästyä, että haluavat ChatGPT:n ohjaamaan hissejä ja koulubusseja.

[pigra senlaborulo]

openai.com
OpenAI announces leadership transition
Authors
3–4 minutes

Chief technology officer Mira Murati appointed interim CEO to lead OpenAI; Sam Altman departs the company.

Search process underway to identify permanent successor.


The board of directors of OpenAI, Inc., the 501(c)(3) that acts as the overall governing body for all OpenAI activities, today announced that Sam Altman will depart as CEO and leave the board of directors. Mira Murati, the company’s chief technology officer, will serve as interim CEO, effective immediately.

A member of OpenAI’s leadership team for five years, Mira has played a critical role in OpenAI’s evolution into a global AI leader. She brings a unique skill set, understanding of the company’s values, operations, and business, and already leads the company’s research, product, and safety functions. Given her long tenure and close engagement with all aspects of the company, including her experience in AI governance and policy, the board believes she is uniquely qualified for the role and anticipates a seamless transition while it conducts a formal search for a permanent CEO.

Mr. Altman’s departure follows a deliberative review process by the board, which concluded that he was not consistently candid in his communications with the board, hindering its ability to exercise its responsibilities. The board no longer has confidence in his ability to continue leading OpenAI.

In a statement, the board of directors said: “OpenAI was deliberately structured to advance our mission: to ensure that artificial general intelligence benefits all humanity. The board remains fully committed to serving this mission. We are grateful for Sam’s many contributions to the founding and growth of OpenAI. At the same time, we believe new leadership is necessary as we move forward. As the leader of the company’s research, product, and safety functions, Mira is exceptionally qualified to step into the role of interim CEO. We have the utmost confidence in her ability to lead OpenAI during this transition period.”

OpenAI’s board of directors consists of OpenAI chief scientist Ilya Sutskever, independent directors Quora CEO Adam D’Angelo, technology entrepreneur Tasha McCauley, and Georgetown Center for Security and Emerging Technology’s Helen Toner.

As a part of this transition, Greg Brockman will be stepping down as chairman of the board and will remain in his role at the company, reporting to the CEO.

OpenAI was founded as a non-profit in 2015 with the core mission of ensuring that artificial general intelligence benefits all of humanity. In 2019, OpenAI restructured to ensure that the company could raise capital in pursuit of this mission, while preserving the nonprofit's mission, governance, and oversight. The majority of the board is independent, and the independent directors do not hold equity in OpenAI. While the company has experienced dramatic growth, it remains the fundamental governance responsibility of the board to advance OpenAI’s mission and preserve the principles of its Charter.

https://openai.com/blog/openai-announce ... transition

[hashtag rikesakko]

onko tämä AI innostus jo vähän laantunut

en muista millon hyppinyt kyseiset jutut viimeksi silmille (en käytä windows)

toisaalta asiaan voi vaikuttaa että lue HN oikeen enään

[pigra senlaborulo]

Sam Altman isn’t the only major OpenAI executive leaving the company on Friday. Hours after Altman was fired, with the board saying it “no longer has confidence in his ability to continue leading OpenAI,” co-founder and former board chair Greg Brockman revealed on X that he is also quitting.

When OpenAI announced the “leadership transition” and that CTO Mira Murati would take over as interim CEO, it said that Brockman would step down as chairman but remain in his role at the company, reporting to the CEO. Just a few hours later, that’s no longer true.

In the post on X (formerly Twitter), Brockman said he sent the following message to OpenAI staffers:

hi everyone,

i'm super proud of what we’ve all built together since starting in my apartment 8 years ago. we’ve been through tough & great times together, accomplishing so much despite all the reasons it should have been impossible.

but based on today’s news, i quit.

genuinely wishing you all nothing but the best. i continue to believe in the mission of creating safe AGI that benefits all of humanity.

OpenAI unexpectedly announced that it had fired Altman earlier on Friday. The company arguably kicked off tech’s current infatuation with artificial intelligence following the explosive popularity of ChatGPT.

https://www.theverge.com/2023/11/17/239 ... an-leaving

[pigra senlaborulo]

www.nytimes.com
Ousted OpenAI C.E.O. Makes Plans for New Artificial Intelligence Company
Mike Isaac, Cade Metz, Erin Griffith, Tripp Mickle
4 - 5 minutes


Sam Altman, who was forced out of his company on Friday afternoon, was quickly moving to create another company with another OpenAI executive who quit on Friday.

Sam Altman, the tech entrepreneur who was removed as chief executive of OpenAI on Friday by its board of directors, is in the process of pitching a new artificial intelligence start-up to investors, according to three people familiar with his plans.

Mr. Altman plans to launch the initiative with his longtime partner and co-founder Greg Brockman, OpenAI’s former president who stepped down in solidarity with Mr. Altman on Friday, said the people, who spoke on the condition of anonymity because the plans for the new company are not yet public.

Details on the potential company are scarce, because Mr. Altman and Mr. Brockman are still working through what it will be. Plans could change quickly, as the pair are keeping a wide range of options open, the sources said.

OpenAI’s board of directors shocked the tech industry on Friday when it abruptly fired Mr. Altman from his position as chief executive. By Friday night, the two men were already working on their plans to pitch investors on their next venture. The Information first reported on their plans for a new initiative.

Mr. Altman could not be reached for comment. Mr. Brockman did not immediately respond to a request for comment. OpenAI declined to comment.

Mr. Altman and Mr. Brockman spent Friday evening sketching out the new company, said one of the sources, and they considered which OpenAI employees would join them. At least three other OpenAI employees have resigned over the last day, according to three people familiar with the matter who asked to remain anonymous because they were not authorized to speak about it.

Mr. Altman took a break to poke at OpenAI’s board on social media, with a joke threatening to start “going off,” or speaking candidly, about the situation.

Prominent tech investors have rushed to show their support for Mr. Altman and hinted that they would back his next venture.

Alfred Lin, an investor at Sequoia Capital, a firm that invested in OpenAI and Mr. Altman’s first start-up, Loopt, posted on X, formerly called Twitter, that he looked forward to “the next world-changing company” that Mr. Altman and Mr. Brockman would build. Eric Schmidt, former chief executive of Google, posted, “I can’t wait to see what he does next.”

OpenAI set off an A.I. boom late last year when it released ChatGPT, and Silicon venture capital firms raced to invest in start-ups developing similar technologies.

Mr. Altman has pitched a number of ideas for new projects to investors and other outsiders in recent months. During a fund-raising trip last month where he met with potential investors from the Middle East, Mr. Altman spoke about A.I.-related projects, including a plan to develop custom chips for A.I. that would compete with Nvidia, according to four people familiar with his travel who spoke on the condition of anonymity because they were not authorized to speak on the matter.

He also spoke with Masayoshi Son, the chief executive and billionaire founder of the tech conglomerate SoftBank, about investing in an effort to build an A.I. device with Jony Ive, the former chief design officer at Apple.

https://www.nytimes.com/2023/11/18/tech ... mpany.html

[pigra senlaborulo]

OpenAI board in discussions with Sam Altman to return as CEO
By Alex Heath and Nilay Patel
3–4 minutes

The OpenAI board is in discussions with Sam Altman to return to the company as its CEO, according to multiple people familiar with the matter. One of them said Altman, who was suddenly fired by the board on Friday with no notice, is “ambivalent” about coming back and would want significant governance changes.

Update, 5:35PM PT: A source close to Altman says the board had agreed in principle to resign and to allow Altman and Brockman to return, but has since waffled — missing a key 5PM PT deadline by which many OpenAI staffers were set to resign. If Altman decides to leave and start a new company, those staffers would assuredly go with him.

Altman holding talks with the company just a day after he was ousted indicates that OpenAI is in a state of free-fall without him. Hours after he was axed, Greg Brockman, OpenAI’s president and former board chairman, resigned, and the two have been talking to friends and investors about starting another company. A string of senior researchers also resigned on Friday, and people close to OpenAI say more departures are in the works.

Altman is “ambivalent” about coming back

OpenAI’s largest investor, Microsoft, said in a statement shortly after Altman’s firing that the company “remains committed” to its partnership with the AI firm. However, OpenAI’s investors weren’t given advance warning or opportunity to weigh in on the board’s decision to remove Altman. As the face of the company and the most prominent voice in AI, his removal throws the future of OpenAI into uncertainty at a time when rivals are racing to catch up with the unprecedented rise of ChatGPT.

A spokesperson for OpenAI didn’t respond to a request for comment about Altman discussing a return with the board. A Microsoft spokesperson declined to comment.

OpenAI’s current board consists of chief scientist Ilya Sutskever, Quora CEO Adam D’Angelo, former GeoSim Systems CEO Tasha McCauley, and Helen Toner, the director of strategy at Georgetown’s Center for Security and Emerging Technology. Unlike traditional companies, the board isn’t tasked with maximizing shareholder value, and none of them hold equity in OpenAI. Instead, their stated mission is to ensure the creation of “broadly beneficial” artificial general intelligence, or AGI.

Sutskever, who also co-founded OpenAI and leads its researchers, was instrumental in the ousting of Altman this week, according to multiple sources. His role in the coup suggests a power struggle between the research and product sides of the company, the sources say.

https://www.theverge.com/2023/11/18/239 ... urn-as-ceo

[pigra senlaborulo]

lölz

[pigra senlaborulo]

mikrobitti.fi
Tekoälyssä on iso ongelma, joka on vaikea ratkaista
Elina Hakola
7–8 minutes
Tekoälyllä luodut kuvat toivat esiin stereotypiat. Tutkijat ovat huolissaan kehityksestä.

Stereotypiat. Tekoälyn konteksti on länsimainen. Colourbox

BuzzFeed-sivusto julkaisi heinäkuussa 195 Barbie-nuken kuvaa, jotka oli tuotettu Midjourney-tekoälytyökalulla. Jokaisen nuken oli tarkoitus edustaa eri maata.

Tulokset olivat hämmentäviä, ja jotkin kuvaukset olivat selvästi virheellisiä.

Useat Aasian Barbiet olivat vaaleaihoisia, ja esimerkiksi Thaimaan, Singaporen ja Filippiinien Barbiet olivat kaikki vaaleatukkaisia. Libanon-Barbie poseerasi raunioilla ja Saksa-Barbie pukeutui sotilaalliseen tyyliin. Etelä-Sudanin Barbie puolestaan kantoi asetta.

BuzzFeed lisäsi vastuuvapauslausekkeen artikkeliin, mutta poisti sen lopulta kokonaan sivustoltaan. Artikkeli tarjosi silmiinpistävän esimerkin ennakkoluuloista ja stereotypioista, jotka lisääntyvät kuvissa, joita tuottavat viimeaikaiset tekoälyä tekstistä kuvaan -teknologiaa tuottavat järjestelmät, kuten Midjourney, Dall-E ja Stable Diffusion.

Ennakkoluuloja esiintyy monissa algoritmeissa ja tekoälyjärjestelmissä. Ne ulottuvat seksistisistä ja rasistisista hakutuloksista aina kasvontunnistusjärjestelmiin, jotka toimivat huonommin mustien kasvojen kohdalla.

Generatiiviset tekoälyjärjestelmät eivät poikkea tästä. Bloomberg havaitsi yli 5 000 tekoälykuvan analyysissä, että korkeammin palkattuihin ammattinimikkeisiin liittyvissä kuvissa esiintyi vaaleampi-ihoisia ihmisiä, ja että useimpien ammattiroolien tulokset olivat miesvaltaisia.
Kattava testi nostaa esiin monia ongelmia

Uusi Rest of World -sivuston suorittama kokeilu osoittaa, että generatiivisilla tekoälyjärjestelmillä on taipumusta ennakkoluuloihin, stereotypioihin ja reduktionismiin myös kansallisten identiteettien osalta.

Rest of World -sivusto kertoo tavoitteekseen haastaa näkemystä siitä, kenen kokemukset teknologiasta otetaan huomioon. Se huomioi erityisesti teknologian käyttäjät ja markkinat vauraan Lännen ulkopuolella, joka usein niputetaan yhdeksi joukoksi.

Rest of Worldin tiimi valitsi Midjourneylle viisi kehotetta, jotka perustuivat yleiskäsitteisiin "henkilö", "nainen", "talo", "katu" ja "ruokalautanen". Seuraavaksi kehotetta muokattiin eri maita varten: Kiina, Intia, Indonesia, Meksiko ja Nigeria. Vertailun vuoksi mukana on myös Yhdysvallat, mistä Midjourneykin on kotoisin.

Kunkin kehotteen ja maan yhdistelmän – kuten "intialainen henkilö", "talo Meksikossa", "lautasellinen nigerialaista ruokaa" – osalta luotiin 100 kuvaa, jolloin aineistoksi saatiin 3 000 kuvaa. (Englanninkielisen artikkelin kuviin kannattaa ehdottomasti käydä tutustumassa.)

Tulosten perusteella intialainen on yleensä vanha mies. Meksikolaisella on aina sombrero-hattu.

AI Now -instituutin johtaja Amba Kak muistuttaa haastattelussa, että vaikka tulokset eivät olisi negatiivisia, ne heijastavat arvomaailmaa ja karsivat monimuotoisuutta.

"Se ei todellakaan edusta näiden kulttuurien monimutkaisuutta, heterogeenisyyttä ja monimuotoisuutta", Hugging Facen eettisen ja kestävän tekoälyn tutkija Sasha Luccioni sanoo.
Latteita yleistyksiä

Tutkijat ovat huolissaan siitä, millaista vahinkoa kehitys voi aiheuttaa. Kuvageneraattoreita käytetään moniin eri sovelluksiin, kuten mainonnassa ja luovilla aloilla, ja jopa työkaluissa, joiden tarkoituksena on tehdä rikoksesta epäillyistä rikosteknisiä luonnoksia.

Tekoälytyökalujen saatavuus ja laajuus merkitsevät sitä, että niillä voi olla valtava vaikutus siihen, miten lähes mikä tahansa yhteisö esitetään.

Markkinointikonsulttiyhtiö Kantarin monimuotoisuudesta, tasa-arvosta ja osallisuudesta vastaavan johtajan Valeria Piaggion mukaan markkinointi- ja mainosalalla on viime vuosina edistytty eri ryhmien edustamisessa, vaikka edistystä on vielä paljon jäljellä. Esimerkiksi rodun ja sukupuolen suhteen monimuotoisuus on lisääntynyt ja vammaiset ovat paremmin edustettuina, Piaggio kertoo Rest of Worldille. Generatiivista tekoälyä ei pidä käyttää huolimattomasti.

"Henkilökohtainen huolenaiheeni on se, että olemme pitkään pyrkineet monipuolistamaan ääniä – kuka kertoo tarinoita? Ja yritimme antaa toimijuutta ihmisille eri puolilta maailmaa", hän sanoi. "Nyt annamme äänen koneille."

Stereotypiat jättävät laskuista eri maiden ja maanosien lukuisat uskonnot ja ihonvärien kirjon. Monet Midjourneyn kokeilussa tuottamista kuvista näyttävät vanhanaikaisilta, ikään kuin niiden aiheet sopisivat paremmin historialliseen draamaan kuin nyky-yhteiskunnan tilannekuvaan. Kulttuurit myös latistuvat sarjakuvamaisiksi.
Nuoria naisia ja vanhoja miehiä

Lähes kaikissa maissa Midjourneyn tuloksissa oli selvä sukupuolittuneisuus, sillä suurin osa "henkilö"-kehotteella luoduista kuvista kuvasi miehiä. Amerikkalaista henkilöä kuvaavissa kuvissa tilanne oli tosin toinen: 94 naista, viisi miestä ja yksi sukupuoleton Yhdysvaltojen lippuun naamioitunut yksilö.

Tällainen laaja yli- ja aliedustus johtuu todennäköisesti tekoälyjärjestelmän koulutuksessa käytetyn datan vääristymästä. Yhdysvalloissa naiset ovat mediassa yliedustettuina, mikä saattaa selittää tuloksen.

Kiinnostavia olivat myös erot, jotka nousivat esiin kehotteiden vertailussa. Henkilö- ja naiskehotteiden vertailussa naiset olivat selvästi nuorempia: Useimmissa maissa miehet näyttivät olevan yli 60-vuotiaita, mutta suurin osa naisista oli 18-40-vuotiaita.

Naisten ihonväri oli keskimäärin huomattavasti vaaleampi kuin miesten. Kiinassa, Intiassa, Indonesiassa ja Meksikossa "nainen"-kehotteen mediaanitulos oli vähintään kaksi astetta vaaleampi kuin "henkilö"-kehotteen ihonväri.

Kiinassa, Intiassa, Indonesiassa ja Meksikossa "nainen"-kehotuksen mediaanitulos oli ihonväriä, joka oli asteikolla vähintään kaksi tasoa vaaleampi kuin "henkilö"-kehotuksen mediaanitulos.

Länsimaiset kauneusnormit naisille olivat selkeät: pitkät, kiiltävät hiukset, ohuet, symmetriset kasvot ja sileä, tasainen iho. Kiinalaisen naisen kuvissa on useimmiten naisia, joilla on kaksinkertaiset silmäluomet.

"Tämä on huolestuttavaa, sillä se tarkoittaa, että Midjourney ja muut tekoälyn kuvageneraattorit voivat entisestään vahvistaa mahdottomia tai rajoittavia kauneusnormeja jo ennestään kuvien kyllästämässä maailmassa", Leverhulme Centre for the Future of Intelligencen tutkimusapulainen Kerry McInerney sanoo.

Tekoälytyökalut eivät stereotypioi vain ihmisiä, vaan tulosten konteksti on usein länsimainen.
Avoimuutta kehittäjiltä tarvitaan

Tekoälyn kuvageneraattoreiden vääristymiä on vaikeaa korjata. Loppujen lopuksi niiden tuotosten yhdenmukaisuus johtuu suurelta osin näiden työkalujen toimintatavasta.

Tekoälyjärjestelmät etsivät kuvioita datasta, jolla ne on koulutettu. Usein ne hylkäävät poikkeamat tuottaakseen tuloksen, joka on lähempänä vallitsevia trendejä. Ne on suunniteltu jäljittelemään aiempaa, ei luomaan monimuotoisuutta.

Tietoaineistoissa on myös kielellinen vinouma, joka voi vaikuttaa stereotyyppisempiin mielikuviin. "Tietoaineistoja laadittaessa on yleensä englanninkielinen ennakkoasenne", Luccioni sanoo. "Näin ollen esimerkiksi suodatetaan pois kaikki sellaiset verkkosivut, jotka eivät ole pääasiassa englanninkielisiä".

Lähes kaikki Rest of Worldin kanssa keskustelleista tekoälytutkijoista totesivat, että ensimmäinen askel tekoälyjärjestelmien ennakkoasenteisiin liittyvän ongelman ratkaisemiseksi olisi avoimuuden lisääminen tekoälyjärjestelmiin osallistuvilta yrityksiltä, jotka ovat usein salamyhkäisiä käyttämiensä tietojen ja järjestelmiensä kouluttamisen suhteen.

https://www.mikrobitti.fi/uutiset/mb/c8 ... 1d605565d0

[pigra senlaborulo]

aljazeera.com
Sam Altman won’t return to OpenAI despite company’s overtures, report says
Al Jazeera
~3 minutes

Altman’s sudden departure from the company he co-founded sent shockwaves through the tech sector.

Sam Altman, the ousted CEO of ChatGPT creator OpenAI, will not return to the company he co-founded despite executives’ efforts to bring him back, tech news site The Information has reported.

Ilya Sutskever, OpenAI co-founder and board director, told staff on Sunday night that Altman would not be coming back after a weekend of negotiations with the board of directors, company leaders and investors, The Information reported on Sunday.

Emmett Shear, co-founder of video streaming site Twitch, will take over as interim CEO, The Information said.

OpenAI did not immediately respond to a request for comment from Al Jazeera.

Altman, who became the public face of artificial intelligence with the releases of ChatGPT and GPT-4, was abruptly fired on Friday after the company’s board determined he was “not consistently candid in his communications”.

The announcement of Altman’s departure sent shockwaves through the tech sector and prompted the resignation of OpenAI President and Co-founder Greg Brockman.

Three senior researchers also submitted their resignations following the news, according to The Information.

Altman said in posts on X that his firing was a “weird experience” and “sorta like reading your own eulogy while you’re still alive”, and that “if I start going off, the OpenAI board should go after me for the full value of my shares”.

Unlike other tech founders such as Mark Zuckerberg, Altman did not have equity in OpenAI and could be fired at any time, the news site Semafor reported earlier this year.

On Sunday, Altman posted an image on X of himself wearing an OpenAI guest badge, saying it would be the “first and last time I ever wear one of these”.

Altman, who helped found OpenAI in 2015, has been among the most sought-after voices on the potential benefits and dangers of AI since last year’s release of ChatGPT, speaking at business summits and testifying before the US Congress.

In September, New York Magazine published a profile comparing Altman to J Robert Oppenheimer – known as the father of the atomic bomb – and Time Magazine included the tech entrepreneur on its list of the 100 most influential people in AI in 2023.

https://www.aljazeera.com/news/2023/11/ ... eport-says

[pigra senlaborulo]

Microsoft has hired OpenAI co-founders Sam Altman and Greg Brockman to head up a “new advanced AI research team,” the software conglomerate’s chief Satya Nadella said Monday, capping three days of intense discussions following the unexpected decision by OpenAI’s board to dismiss Altman.

Many OpenAI members, including the co-founder Brockman, left the firm in protest last week. Nadella said Altman and Brockman will be joined by “colleagues,” suggesting that Microsoft is also hiring more talent that left OpenAI over the weekend.

“We look forward to moving quickly to provide them with the resources needed for their success,” said Nadella, in what many tech entrepreneurs labelled as an example of “incredible execution.”

Nadella, whose firm has invested over $10 billion in OpenAI and acquired almost 50% ownership, said the Windows-maker remains committed to the startup. Microsoft was purportedly taken by surprise by the sudden action of OpenAI’s board. It is remarkable that Nadella managed to convince and find a familiar new home for the ex-leaders of OpenAI ahead of the market’s opening on Monday.

Altman has been the public face of OpenAI, the most valuable U.S. startup. It’s not only widely estimated to be leading the current AI race but has in less than a year also assumed the position of kingmaker for thousands of other startups that are building atop of its software offerings. Investment in OpenAI has also supercharged Microsoft’s AI efforts, helping it court many businesses and provide Wall Street with adequate confidence about the decades-old software giant’s future prospects.

the mission continues https://t.co/d1pHiFxcSe

— Sam Altman (@sama) November 20, 2023

Microsoft’s move comes after a tumultuous weekend that saw an unsuccessful attempt by the OpenAI board, its investors, team members and Altman to make the entrepreneur return to the startup. OpenAI board instead elected to hire former Twitch chief executive and co-founder Emmett Shear as its interim chief executive in a move that reportedly shocked Altman. OpenAI didn’t respond to a request for comment.

Earlier over the weekend, Altman also began to pitch a new AI venture to investors, according to the New York Times.

“We remain committed to our partnership with OpenAI and have confidence in our product roadmap, our ability to continue to innovate with everything we announced at Microsoft Ignite, and in continuing to support our customers and partners. We look forward to getting to know Emmett Shear and OAI’s new leadership team and working with them,” Nadella added.

The OpenAI board said it had removed Altman because he had not been “consistently candid” in his conversations with them. It didn’t elaborate the reasoning, which angered many OpenAI employees. “The board had a chance to explain their drastic actions and they did not take it,” wrote Andrej Karpathy, a research scientist at OpenAI, on X.

Satya wins.
Reflexes of a startup CEO.
Resources of a trillion dollar company.
Pulls this together in 48 hours from a cold start.
Gets it signed and over the line before markets open. pic.twitter.com/oI3IUvd2Zp

— Balaji (@balajis) November 20, 2023

More to follow.

https://techcrunch.com/2023/11/20/opena ... microsoft/

[38911 BASIC BYTES FREE]

Naurattaa tuolla toisaalla esitetty heitto että eiks sen OpenAI:n CEOn ois voinu vaan korvata tekoälyllä.

[Spandau Mullet]

Naurattaa tuolla toisaalla esitetty heitto että eiks sen OpenAI:n CEOn ois voinu vaan korvata tekoälyllä.

Molemmat suoltaa puppua elikkäs,