Punk in Finland

is.fi
Esitä vain tyhmää: Teko­äly tarjoaa napalmia ja huumeita
Tuomas Linnake, Henrik Kärkkäinen
4–5 minutes

Uusi tekoälymalli on mahdollista saada tarjoamaan ohjeita huumeiden valmistamiseen.

Generatiivinen eli sisältöä luova tekoäly kehittyy hurjaa vauhtia. Tunnetuin tekoälymalleista on luonnollista kieltä tuottava ChatGPT, joka osaa vastailla käyttäjien kysymyksiin.

Tekoälyyn on rakennettu sisään suojauksia, joiden on määrä estää sen käyttämistä pahoihin tarkoituksiin. Mutta koska ihmisten rakentamat suojaukset ovat ihmisten rikottavissa, tekoäly on jo saatu toimimaan vastoin siihen koodattua moraalista koodistoa.

Rikolliset ottivat ChatGPT:n aikaisemmat versiot nopeasti käyttöönsä. Tekoälyä on hyödynnetty esimerkiksi entistä vakuuttavampien huijausviestien kirjoittamisessa, ja konetta on käskytetty myös laatimaan haitallista ohjelmakoodia hyökkääjille.

Lue lisää: Nyt tuli vakava varoitus teko­älystä: 3 rikollista käyttö­tarkoitusta

Tietoturvayhtiö WithSecure selvitti systemaattisesti, millaisin keinoin ChatGPT:n edellinen eli kolmosversio saatiin toimimaan normejaan vastaan. Erilaisia manipulointitekniikoita ja vahingollisia lopputuloksia löytyi useita.

Kun ChatGPT-3:lle syötettiin kehotteita askelittain, se saatiin esimerkiksi kirjoittamaan häväistystekstiä ihmisistä. Prosessi aloitettiin pyytämällä henkilöistä elämäkerrallisia tekstejä, joihin pyydettiin seuraavaksi lisäämään huomioita sosiaalisesta mediasta ja lopuksi valheita. Tutkijat saivat tekstiä syntymään niin ihmisistä kuin yrityksistä. Tekoäly oli myös helppo valjastaa hyvin arveluttavien nft-virtuaalituotteiden myymiseen.



ChatGPT:n nikseihin kuuluu myös erilaisten kirjoitustyylien jäljittely. Tutkijat huomasivat, että tekoälyn saa helposti kirjoittamaan epämuodollista toimistoslangia – joka on lähes täydellistä kohdistettuun kalasteluun (spear-phishing). Harva kirjoittaa kirjakieltä.

Tekoälyn sai tuottamaan vahvasti polarisoivaa tekstiä askeleittain etenemällä. Kun siltä pyysi ensiksi selvitystä USA:n kongressin valtauksesta ja sitten näkemyksiä valtaajien näkökulmasta, teksti oli hyvin karua. Sama oli toistettavissa rokotuksiin liittyen.

Lisäksi tekoälyltä oli hyvin helppo saada napalmin valmistusohjeet pilkkomalla merkkijono osiin NA, PA ja LM, pyytämällä sitä yhdistämään kirjaimet ja kirjoittamaan ohje json-muotoilluksi datarakenteeksi. Tässä tapauksessa tekoälyn halu koodata oli ilmeisesti liian vahva. Viimeisimmän havainnon teki Antti Kurittu.

ChatGPT kehittyi hiljattain versioon GPT-4, jossa on aiempaa paremmat suojaukset laittomia tai vaarallisia kyselyjä varten. Tietoturvayhtiö Check Point kuitenkin löysi keinon ylittää nämäkin muurit.

Check Point kertoo, että sen oli mahdollista saada GPT-4 suoltamaan ohjeet metamfetamiinin valmistukseen, vaikka tekoäly ensin kieltäytyi. Tämä onnistui, koska tekoälyllä on keskenään ristiriitaisia ”vaistoja”. Toisaalta se ei halua tarjota laitonta tietoa, mutta toisaalta sillä on halu korjata käyttäjän esittämiä virheellisiä väittämiä.

– Ihmismäistäen voimme sanoa leikkivämme tekoälyavustajan egolla. Ideana on olla tahallaan tietämätön ja naiivi mallille esitettyjen pyyntöjen kanssa tulkiten väärin sen selityksiä ja sekoittaen sen tarjoamaa tietoa. Tämä laittaa tekoälyn tukalaan tilanteeseen. Se ei halua kertoa meille pahoja asioita, mutta sillä on myös halu korjata virheemme, Check Point selittää.

”

Se ei halua kertoa meille pahoja asioita, mutta sillä on myös halu korjata virheemme.

Tietoturvayhtiö huomasi, että kun tekoälylle esittää tyhmää tarpeeksi johdonmukaisesti, GPT-4 mieluummin korjaa virheitä kuin sensuroi vastauksiaan. Tällä tavalla Check Pointin oli hiljalleen mahdollista saada tekoäly selittämään metamfetamiinin valmistusprosessi.

Check Point ilmoitti havainnoistaan ChatGPT:n kehittäjälle OpenAI:lle. Tietoturvayhtiö huomauttaa, että onnistuneita manipulointitapoja ei saa automaattisesti siirrettyä toiseen aihepiiriin, vaan se edellyttää tekoälyn toistuvaa tökkimistä ja sen vastausten käyttämistä tekoälyä vastaan.

Tekoälyn ongelmat ovat levinneet myös muualle, kuten laittomaan pornokauppaan. Tekoälyn avulla luodut lapsipornokuvat ovat ongelma, joka huolestuttaa ja työllistää jo ainakin Britannian poliisia.

Lue lisää: Tekoälylle löytyi todella vasten­mielinen käyttö­tarkoitus

Tekoälyllä on potentiaali mullistaa yhteiskuntaa hyvässä ja pahassa. Sitä on verrattu internetin keksimiseen. Samalla esimerkiksi tekijänoikeuksia joudutaan tarkastelemaan uudessa valossa, mikä voi aiheuttaa kiperiä tilanteita monelle sisällöntuottajalle.

https://www.is.fi/digitoday/tietoturva/ ... 99258.html

Etäohjattavia seksileluja kehittävä Lovense julkaisi tällä viikolla uuden ChatGPT Pleasure Companion (suom. ChatGPT Nautintokumppani) -nimisen sovelluksen.

Kyseessä on sovellus, jossa tekoäly kehittää käyttäjälleen hänen toivovan eroottisen tarinan tai muuta tunnelmaa nostattavaa. Sovellus toimii yhteydessä seksileluun.

– Nautintokumppanin avulla käyttäjä voi täysin luoda tarinaa, jossa hän voi tutkiskella seksuaalisuuttaan ja rajojaan itsenäisesti, Lovensen toimitusjohtaja Dan Liu totesi Techcrunchille.

Käyttäjä voi kertoa täysin, että millaista tarinaa hän haluaa - muun muassa tarinan hahmot, tapahtumapaikan. Lisäksi tunnelmaa voi määrittää, kuten onko kyseessä romanttinen vai aistillinen, tai tulinen vai herkkä tarina.

Tarinan kertomisen lisäksi sovellus voi myös ottaa käyttäjän seksilelun hallintaansa ja ohjailla sitä.

– Mitä kiihkeämpi tarina, sitä voimakkaampaa myös lelun toiminta on, yhtiö kertoo.

Yhtiön omien sanojen mukaan heidän kehittämä teknologia on teledildoniikkaa.
Yksityistä vai ei?

Koska kyseessä on sovellus niin yksi suurimpia arveluttavia asioita onkin miten sen yksityisyyden suoja on toteutettu. Erityisesti kun sovellukselle jaetaan käyttäjän omia fantasioita.

The Verge kertoo, että vuonna 2017 eräs Reddit-keskustelupalstan käyttäjä oli huomannut, että Lovensen vibraattorisovellus oli nauhoittanut hänen herkän hetkensä ilman hänen suostumustaan. Saman asian olivat huomanneet myös useat muut käyttäjät.

Yhtiön mukaan kyseessä oli vähäinen sovelluksen virhe ja nauhoitteen olisi täytynyt poistua session loputtua. Lovense kertoi korjanneensa ongelman.

Samana vuonna Vice totesi myös, että yhtiön Hush-pepputapit on hakkeroitavissa näiden heikosti suojatun langattoman yhteyden myötä.

Yhtiö kertoo sivuillaan, että he ovat osa Internet of Dongs-yhteisöä. Kyseessä on yhteisö, joka pyrkii parantamaan etäohjattavien seksilelujen turvallisuutta etsimällä näistä haavoittuvuuksia.

Lovense on Singaporeen rekisteröity yritys.

https://www.iltalehti.fi/digiuutiset/a/ ... adb2935c63

msn.com
Google’s medical AI chatbot is already being tested in hospitals
2–3 minutes

Master P spoke out after Google used his photo in an online biography of the late Luther Vandross.

On Sunday, TMZ chatted with the 53-year-old about his and Snoop Dogg’s latest food venture and the viral photo mishap from the billion-dollar tech company.

“I know everybody tripping. Google thought it was funny. Mixing me up. I get it,” the New Orleans native said outside a local Walmart while promoting his new breakfast brand, Snoop cereal.

“This is the picture, Google. Stop letting AI run your company. This should have been a picture of Captain Ace; I look more like Captain Ace,” he said as he held up a box of the breakfast cereal and pointed to a character on it.

Twitter users noticed the error and called out Google for continuing an apparent trend of companies and news outlets mixing up Black celebrities — even if the two look nothing alike.

“Why when you google luther vandross…a picture of master p pops up instead of luther?! @Google explain yourself now.. hahaha,” one user said.

“Oh I’m dead…. who and why are they saying Master P is Luther Vandross?” another user wrote with laughing emoji.

“Whoever the person is that’s supposed to be keep their eye on Google images is getting fired. They know that Master P [is] not Luther Vandross,” a third user tweeted with laughing emoji.

“ This is why humans aren’t replaceable,” he wrote in the post’s caption.

Master P, born Percy Robert Miller, said he never had a chance to meet the R&B singer before he passed away in 2005.

He suggested that Google use the viral mishap as an opportunity to support his Black-owned cereal company.

“Hey Google, ya’ll need to get it right. … I’m not gonna sue ya’ll, but ya’ll want to do something big for us,” he said, holding up the cereal box.

https://www.msn.com/en-us/health/other/ ... r-AA1dBWpE

New Yorkissa on otettu käyttöön laki, joka edellyttää yritysten rekrytoinneissa käyttämiä tekoälyapuja olemaan puolueettomia ja vailla esimerkiksi seksismiä tai rasismia. Aiheesta uutisoi NBC News.

Tiettävästi ensimmäinen laatuaan maailmassa oleva laki edellyttää, että yritysten rekrytoijien käyttämät automatisoidut ja tekoälyyn sekä koneoppimiseen nojaavat valintajärjestelmät auditoidaan. Lisäksi riippumattoman osapuolen toteuttaman auditoinnin tulokset pitää julkistaa.

Lailla halutaan varmistaa, etteivät rekrytoinnissa käytettävät tekoälyt syrji hakijoita esimerkiksi etnisyyden tai sukupuolen perusteella.

Teknologia helpottaa töiden hakemista, mutta samalla yritysten on ollut pakko ryhtyä myös seulomaan suuria hakemusmääriä automaation avulla. Tällöin huolena on, että tekoäly seuloo hakemuksia vinoutuneesti, tekoälyn koulutuksessa käytetystä pohjamateriaalista riippuen.

Lakia pidetään tervetulleena pelinavauksena, mutta sitä moititaan vielä turhan suppeaksi ja liian ympäripyöreästi muotoilluksi. Auditoinnissa ei esimerkiksi kiinnitetä huomiota hakijoiden ikään tai liikuntavammaisuuteen liittyvään syrjintään. Samoin epäselvää on, miten lain noudattamista valvotaan.

Lain epäselvä muotoilu taas on johtanut siihen, että lakitoimistot ovat neuvoneet asiakasyrityksiään olemaan piittaamatta uudesta laista. Lain mukaan auditointia edellytetään teknologialta, joka ”olennaisesti auttaa tai korvaa” päätöksentekoa rekrytoinnissa. ”Olennaisen” määrittelyssä voi olla suuriakin näkemyseroja.

NBC:n haastattelema asiantuntija myös huomauttaa, ettei laki varsinaisesti auta määrittelemään oikeasti hyviä tai hyödyllisiä työkaluja, vaikka se auttaakin estämään vinoutunutta seulontaa. Osa tekoälyapureista voi yksinkertaisesti olla toiminnaltaan niin huonoja, että syrjimättä toimiessaankin ne voivat tehdä täysin järjettömiä suosituksia.

https://www.mikrobitti.fi/uutiset/mb/0d ... 4d2fb6bd13

ChatGPT-tekoälyä kehittävä OpenAI haastettiin oikeuteen tekijänoikeusrikkomuksista Yhdysvalloissa. ChatGPT on niin sanottu ”luova tekoäly”, joka pystyy tuottamaan uskottavaa tekstiä sille opetettujen kielimallien pohjalta.

– Kyseessä on ensimmäinen kerta kun ChatGPT joutuu oikeuteen tekijänoikeusteemoista, Sussexin yliopiston lakitutkija Andres Guadamuz toteaa.

Kirjailijat Mona Awad ja Paul Tremblay uskovat, että heidän teoksiaan on käytetty tekoälyn kouluttamiseen. Haasteen mukaan ChatGPT pystyy tuottamaan erittäin tarkkoja tiivistelmiä heidän teoksistaan. Tämä viittaa siihen, että tekoälyä oltaisiin koulutettu lain vastaisesti heidän teoksilla.

Haasteen mukaan OpenAI hyötyy kirjailijoiden teoksista epäreilusti. Yhtiöltä vaaditaan rahallista vahingonkorvausta kaikille yhdysvaltalaiskirjailijoille, joiden teoksia väitetysti on käytetty tekoälyn kouluttamiseen.

Myös muiden luovien alojen taiteilijat, kuten kuvittajat, ovat kritisoineet luovia tekoälyjä siitä miten se hyödyntää taiteilijoiden teoksia.

Juristit Joseph Saveri ja Matthew Butterick kertoivat asiasta uutisoineelle Guardianille sähköpostitse, että kirjat ovat mainio keino opettaa kielellisyyttä tekoälylle. Kirjoissa käytetty kieli on usein korkealaatuista.

– Nämä ovat ihanteellinen keino säilyttää lajimme ideoita, sähköpostissa kerrottiin.

Lakihaasteen ongelmana kuitenkin on, että OpenAI ei paljasta julkisuuteen paljoakaan kuinka heidän tekoälyä koulutetaan. Guadamuzin mukaan on myös mahdollista, että ChatGPT:n tiivistelmät on tuotettu internetin keskustelupalstojen pohjalta.

https://www.iltalehti.fi/digiuutiset/a/ ... 1827385331

yle.fi
Professorilta vakava viesti: Opettele käyttämään tekoälyä, ennen kuin se vie sinun työsi
4–5 minutes

Tekoälytyökalu ChatGPT on jo muuttanut monen suomalaisen tietotyöläisen arkea. Esimerkiksi liikkeenjohdon konsultit, koodarit sekä markkinoinnin- ja viestinnän asiantuntijat käyttävät hyödykseen tekoälyä.
Tietokoneen näytössä Chat GPT-sovellus
Tekoäly tekee tuloaan luovaan työhön. Kuva: Tarmo Niemi / Yle

ChatGPT tuli käyttöön marraskuussa 2022. Keväällä 2023 se päivitettiin uuteen malliin, ja pitkin kevättä suomalaiset yritykset alkoivat puhua julkisesti tekoälyn hyödyntämisestä.

Tämän innoittamana Lappeenrannan–Lahden teknillisessä yliopistossa (LUT) tehtiin keväällä tutkimus, jossa haastateltiin ensimmäisen aallon käyttäjiä ja selvitettiin miten suomalaiset yritykset ovat ottaneet ChatGPT:n käyttöön.

Käyttötarkoitukset alkavat hahmottua, kertoo LUTin professori Paavo Ritala.

– ChatGPT on hyödyllinen missä tahansa työtehtävässä, johon liittyy tekstin tuottamista tai tekstin käsittelyä tai viestintää, sanoo professori Ritala.
Luovaa työtä ja aidolta tuntuvaa keskustelua

Tekoälyä on käytetty kymmeniä vuosia rutiinitehtävissä esimerkiksi automatisoimaan teollisia prosesseja tai suosittelemaan sosiaalisen median sisältöjä.

Nyt tekoäly on tulossa näkyvästi luovaan työhön.

Näistä esimerkkinä ovat liikkeenjohdon konsultit, joita tekoäly voi auttaa kirjallisen materiaalin työstämisessä. Koodareille ChatGPT voi puolestaan tuottaa koodia tai etsiä virheitä koodista.

Viestinnässä ja markkinoinnissa se auttaa tekemään markkinointikampanjoita tai sosiaalisen median viestintää. Lakitoimistoissa tekoälyä voi hyödyntää siten, että se etsii asian ydintä pitkistä teksteistä tai auttaa tekemään tulkintoja.

ChatGPT voi toimia tietotyöntekijän älykkäänä henkilökohtaisena valmentajana tai tiimin jäsenenä, joka tarjoaa ohjausta ja vinkkejä.

– Tekoälylle voi antaa esimerkiksi muokattavaksi tekstin, jonka poimii sen jälkeen itselleen muokattavaksi ja antaa sen vielä takaisin tekoälyn käsiteltäväksi. Se on kuin aina tavoitettavissa ja saatavilla oleva kollega, joka auttaa muokkaamaan tekstejä, kuvailee innovaatioihin perehtynyt professori Paavo Ritala.
Mies hymyilee kameraan katsoen vaalea kauluspaita päällään kädet puuskassa.
Tekoäly on kiehtonut professori Paavo Ritalaa pienestä lähtien. Kuva: Teemu Leinonen / LUT

Ritala ennakoi, että tekoäly tulee myös parantamaan virtuaalista asiakaspalvelua eli niin sanottuja chatbotteja. Tällainen keskustelurobotti on tietokoneohjelma, joka on suunniteltu käymään keskustelua ihmisen kanssa.

– Nykyisin keskustelu on ollut kankeaa, koska se on perustunut etukäteen ohjelmoituihin valmiisiin vastauksiin. Uusi, suurella määrällä aineistoa koulutettu chatbotti muistuttaa enemmän aitoa keskustelua ihmisen kanssa ja olisi parhaimmillaan yhtä hyödyllinen ja avulias kuin chatin toisessa päässä oleva ihminen, kertoo Ritala.

Tallenna juttu sovelluksessa
Rutiinityöt tekoälyn tehtäväksi

LUTin tutkimuksessa kävi ilmi, että erityisesti viestintä ja markkinointialan ammattilaiset ovat huolissaan omista työpaikoistaan.

– Tekoäly tuskin tulee viemään suuresti työpaikkoja, mutta se voi muuttaa niitä kuten teknologia on aina tehnyt. Jos tekoäly uhkaa omaa työpaikkaa, kannattaa oppia hyödyntämään sitä omassa työssään, niin voi parantaa omia uranäkymiään tulevaisuudessa, vinkkaa Ritala.

Ihmistä tarvitaan kuitenkin edelleen arvioimaan ChatGPT:n tekemää sisältöä ja ymmärtämään sen tuotoksista mikä on arvokasta ja merkistyksellistä.

Professori Paavo Ritala LUT-yliopistosta sanoo, että tekoäly tulee olemaan samanlainen yleiskäyttöteknologia kuin internet, joka tulee ennen pitkää muuttamaan kaiken.

– Suurin osa tietotyöläisten ajasta kuluu nyt tehtäviin, jotka jatkossa voi tehdä tekoäly. Työntekijät voivat siirtää rutiininomaiset tehtävät tekoälyn hoidettavaksi. Ihminen voi siten käyttää työaikaansa luoviin tehtäviin, sanoo Ritala.

ChatGPT vahvistaa ihmisten kykyjä ja auttaa viimeistelemään ihmisen tehtäviä tehokkaasti ennennäkemättömällä nopeudella, mikä voi johtaa suureen tuottavuuden kasvuun.

– Odotukseni on, että kun sisällön tuottaminen helpottuu, kaikista tulee tuottavampia. Tehdään enemmän ja paremmin ja ollaan enemmän kiireisiä. Toisaalta tekoäly voi korvata monotonisia rutiinitehtäviä, jolloin työaikansa voi käyttää enemmän luovuuteen ja ideointiin, sanoo Ritala.

Heräsikö ajatuksia? Voit keskustella aiheesta 13.7.2023 klo 23.00 saakka.

Miten sinä olet hyödyntänyt tekoälyä, kuten Chat GPT:tä, arjessasi? Jaa parhaat vinkkisi meille! Koostamme niiden pohjalta jutun, jossa esittelemme parhaat elämää helpottavat niksit.
https://yle.fi/a/74-20040724

Yhdysvaltalainen teknologiajätti Google avaa keskustelevan tekoäly­sovelluksensa Bardin myös Euroopan markkinoilla. Bardia voidaan pitää tekoälybuumin viime talvena uusille kierroksille laukaisseen Chat GPT:n varteen­otettavimpana kilpailijana.

Samalla yhtiö laajentaa Bardin toimintaa yli 40 uudelle kielelle. Uusien kielten joukossa on myös suomi. Aiemmin Bardia on voinut käyttää vain englanniksi, japaniksi ja koreaksi. Google rajoittaa Bardin käytön 18 vuotta täyttäneille henkilöille.

Maantieteellisen laajentumisen yhteydessä Google kertoi lisäävänsä keskustelu­bottiinsa myös uusia ominaisuuksia.

Jatkossa Bard pystyy yhtiön mukaan muun muassa tunnistamaan ja analysoimaan sille syötettyjä kuvia. Yhtiön mukaan keskustelubotti osaa tuoreimman päivityksen jälkeen myös lukea vastauksensa ääneen. Kuvien­tunnistus­ominaisuus tosin toimii yhtiön mukaan toistaiseksi vain englannin kielellä.

Googlen tuotehallintajohtaja Jack Krawczyk myös väläytti toimittajille järjestetyssä tilaisuudessa, että Bardin toimintoja tullaan pian näkemään myös esimerkiksi kartta­sovellus Mapsissa.

”Osa strategiaamme on ajan myötä integroida Bardia vielä syvemmin osaksi Googlen ekosysteemiä. Tulette näkemään Mapsin, Google Assistantin, Gmailin ja Docsin kaltaisten sovellusten tulevan Bardiin.”

Krawczyk tosin korosti, että näitä toimintoja yhtiö ei ole vielä valmis julkistamaan.

Mediasivusto Politico kertoi vielä kesäkuun puolivälissä, että Google joutuu viivästyttämään Bardin julkaisua Euroopassa EU:n yksityisyys­säädösten vuoksi.

Toimittajille pitämässään tilaisuudessa Google kertoi nyt päivittäneensä Bardin yksityisyys­käytäntöjä viranomaisilta saamansa palautteen perusteella.

Krawczyk vakuutti toimittajille puhuessaan, että yhtiö keskustelee aktiivisesti viran­omaisten kanssa, ennen kuin se tuo Bardiin uusia ominaisuuksia. Hän korosti, että käyttäjä voi paitsi päättää, antaako tämä lupaa tietojensa käyttöön, myös peruuttaa jo kertaalleen antamansa luvan.

”Tämä on uutta teknologiaa. Se tuo uusia mahdollisuuksia. Varmistetaan, että sen käytön lähtökohtana on luottamus ja ymmärrys siitä, miten tietojasi käytetään. Jos haluat lopulta lopettaa käytön ja poistaa toimintasi jäljet, Bard antaa sinun tehdä niin”, Krawczyk sanoi.

Myös Bardin suurin kilpailija, yhdysvaltalaisen Open AI -yhtiön kehittämä Chat GPT on joutunut EU:n viranomaisten hampaisiin.

Open AI joutui tänä keväänä rajoittamaan Chat GPT:n toimintaa hetkellisesti Italiassa, kun maan tietosuoja­viranomaiset katsoivat yhtiön rikkoneen käyttäjien datan keräämiseen ja hallintaan liittyviä säädöksiä. Chat GPT palasi käyttäjien saataville myöhemmin keväällä, kun sen yksityisyys­käytäntöjä oli päivitetty.https://www.aamulehti.fi/talous/art-2000009716405.html

renesanssi-kari (punk) wrote: ↑

13 Jul 2023, 10:34

onko kukaan kokeillu koodausapuna käyttämistä muuten?

pigra senlaborulo wrote: ↑

13 Jul 2023, 12:03

ite oon niin paska koodaamaan, etten uskalla käyttää tommosia apuja ennen kuin oon oppinut perusjutut kunnolla kantapään kautta, ettei pahimmat ripulit tee koodia vaan huonommaksi ja sitten en osaa itse katsoa mikä siinä mättää.