Tekoälyn sovellusten käyttämiseen tietokoneella tarvitaan sekä laskentatehoa että riittävästi muistia. Tällä kertaa kokosimme asiakkaalle tekoälytyöaseman, jonka ytimessä on kaksi PNY NVIDIA RTX PRO 5000 Blackwell -näytönohjainta, joissa kummassakin on 72 GB GDDR7 ECC-muistia, ja täydensimme kokoonpanon Intel Core Ultra 9 -prosessorilla sekä työasemille tarkoitetulla ASUS-emolevyllä ja 4 TB:n Samsung SSD.
Tällaisten järjestelmien perustana on mahdollisuus käyttää tekoälyä paikallisesti. Asianmukaisesti konfiguroidulla ohjelmistolla käsitellään asiakirjoja, käytetään kielimalleja ja kehitetään tekoälyratkaisuja lähettämättä tietoja ulkoisille tekoälypalveluille. Tämä tarjoaa paremman hallinnan työympäristöön, käytettäviin malleihin ja tiedonkulkuun. Esimerkiksi paikallinen tekoälyavustaja voi auttaa löytämään tietoa asiakirjoista, laatimaan tekstiluonnoksia tai kokoamaan aineistoa. Kehittäjät puolestaan voivat käyttää tällaista työasemaa erilaisten mallien testaamiseen ja omien sovellustensa prototyyppien luomiseen. Nämä ovat mahdollisia käyttötapauksia, joissa konkreettiset toiminnot määräytyvät valitun ohjelmiston, käytettävissä olevien tietojen ja ratkaisun integroinnin perusteella yrityksen päivittäiseen toimintaan.
Videomuistin määrä on tässä kokoonpanossa erityisen tärkeä. Muistia tarvitaan sekä itse mallin parametrien että laskennan aikana käytettävien tietojen vuoksi. Jokaisessa RTX PRO 5000 -kortissa on käytettävissä 72 GB, mikä tarjoaa laajemmat mahdollisuudet työskennellä suurten mallien ja monimutkaisempien tehtävien parissa. Kyseisen mallin sopivuus määräytyy sen tarkkuuden, kontekstin pituuden ja käytetyn ohjelmiston perusteella.
Kummassakin kortissa on yhteensä 144 GB videomuistia. Jotta yhden mallin ajamiseen voitaisiin käyttää molempien korttien muistia, ohjelmiston on tuettava työn jakamista useiden GPU:iden kesken. Kortteja voidaan käyttää myös erillisiin tehtäviin, esimerkiksi yhden kortin avulla voidaan ajaa mallia ja toisella suorittaa kokeita. Tämä mahdollistaa käytettävissä olevien resurssien mukauttamisen tiettyyn työnkulkuun.
Kehitysprosessissa tämä joustavuus on erityisen arvokasta, sillä tekoälyn parissa työskentelyyn liittyy usein toistuvia yrityksiä. Mahdollisuus suorittaa nämä tehtävät omalla työasemalla auttaa järjestämään työt tiimin aikataulun mukaisesti sekä säilyttämään käytetyt materiaalit, asetukset ja saadut tulokset yhdessä paikassa.
Prosessorina toimii Intel Core Ultra 9 285, jossa on 24 ydintä – kahdeksan suorituskykyydelle optimoitua ydintä ja 16 energiatehokasta ydintä. Se tarjoaa resursseja tietojen käsittelyyn, ohjelmien toimintaan ja tehtäviin, joita suoritetaan rinnakkain GPU-laskelmien kanssa. Järjestelmässä käytimme Kingston DDR5 ECC -tyyppistä työmuistia. ECC auttaa havaitsemaan ja korjaamaan tiettyjä muistivirheitä, mikä on olennaista pitkäkestoisissa laskutoimituksissa.
Työmuistilla ja videomuistilla on erilaiset tehtävät. Käyttöjärjestelmä, ohjelmat ja tietojen käsittelyprosessit käyttävät järjestelmän RAM-muistia, kun taas GPU-muistiin tallennetaan näytönohjaimen laskelmiin tarvittavat tiedot. Siksi AI-työasemaa suunniteltaessa on arvioitava molempien muistityyppien kapasiteettia suhteessa kyseiseen työnkulkuun ja samanaikaisesti suoritettaviin tehtäviin.
Järjestelmän perustaksi on valittu ASUS Pro WS W880-ACE SE -emolevy. Se on suunniteltu kahden näytönohjaimen kokoonpanoille ja tarjoaa PCIe 5.0 -liitännät. Työympäristön ylläpidossa on apuna sisäänrakennettu BMC-ohjain ja etähallintamahdollisuudet – tietokonetta voidaan valvoa ja hallita myös silloin, kun järjestelmänvalvoja ei ole sen vieressä.
Asennettu mallien, tietokokonaisuuksien ja projektien tallentamista varten Samsung 9100 PRO 4 TB M.2 SSD . Tekoälyn parissa työskenneltäessä tallennustilaan on sisällytettävä sekä työtiedostot että erilaiset malliversiot ja kokeiden tulokset. Nopea pääsy näihin tiedostoihin on tärkeää mallien lataamisessa ja tietojen valmistelussa.
Laitteiston kokoonpanossa ohjelmistovalinta on keskeistä: käytettävissä olevien resurssien hyödyntämiseksi tarvitaan yhteensopivia ajureita, tekoälytyökaluja ja sopivia asetuksia. Myös kahden näytönohjaimen kuormitus riippuu käytetystä ohjelmasta. Käytännössä järjestelmän yhteensopivuus käy parhaiten ilmi kokeilla, joissa käytetään samoja malleja ja tietoja kuin päivittäisessä käytössä.
Pakettiin kuuluu GIGABYTE AORUS RTX 5060 Ti AI BOX – ulkoinen grafiikkaratkaisu, jossa on GeForce RTX 5060 Ti ja 16 Gt videomuistia. Kyseessä on erilliseen koteloon sijoitettu GPU, jossa on Thunderbolt 5- ja USB4-liitännät. Tällainen laite tarjoaa lisämahdollisuuksia tekoälykokeiluihin tai muihin GPU:lla nopeutettaviin tehtäviin.
Komponentit on asennettu mustaan Fractal Design Epoch XL Solid -koteloon. Prosessorin jäähdytys be quiet! Pure Rock Pro 3 , ja ilmavirtausta täydentää be quiet! Pure Wings 3 140 mm ja 120 mm:n PWM-tuulettimet. Työasemalle, jonka kuormitus voi jatkua tuntikausia, lämmönpoisto on olennainen osa kokoonpanoa.
Tietokoneen virransyöttö hoidetaan be quiet! Dark Power 14 1200 W virtalähde, jolla on 80 PLUS Titanium -sertifiointi ja ATX 3.1 -standardin tuki. Tähän tietokonepakettiin kuuluu myös PowerWalker VI 3000 CW FR -katkottoman virransyötön lähde, jonka nimellisteho on 3000 VA / 2100 W. Sähkökatkon sattuessa se antaa aikaa tallentaa työn tulokset ja sammuttaa järjestelmän asianmukaisesti; käytettävissä oleva aika riippuu todellisesta kuormituksesta.
Tämä kokoonpano antaa käsityksen siitä, miten tiettyyn tehtävään tarkoitettu tekoälytyöasema rakennetaan: GPU-resursseja täydentävät muisti, tietojen tallennus, jäähdytys ja hallintamahdollisuudet. Jos myös yrityksesi tarvitsee omaa tekoälytyöasemaa, ota yhteyttä TopPC – autamme sinua valitsemaan kokoonpanon, joka sopii tarvitsemiisi ohjelmiin, malleihin ja työmäärään.