DeepSeek

[rapport]

Er búinn að prófa Deepseek og verð að segja að ég skil ekki lætin í kringum það. Þetta er algjört drasl, kemst ekki með tærnar þar sem ChatGPT hefur hælana.

Ef svona grín getur þurrkað út markaðsvirði eins fyrirtækis sem nemur 17 faldri landsframleiðslu Íslands á nokkrum klukkustundum þá er eitthvað mikið að í þessum heimi.

Á forsíðunni þeirra er birt samanuburðpartafla með haug af prófum sem DS virðist standa sig nokkuð vel í...

https://www.deepseek.com/

ChatGPT er með 50% hærra skor í "Simple QA" með 38% rétt svör en DS er með 24% rétt.

Aðrir fídusar skora hærra og jafnvel miklu hærra, sérstaklega greiningarhæfni og útreikningar = bestun.

DS er fyrir vikið líklega strax orðið verðmætara fyrir viðskiptaheiminn.

[gnarr]

R1 modelið skorar hærra en o1 í mörgum benchmörkum með miklu minni orkunotkun, ég skil ekki hvað þú meinar að þetta sé drasl Guðjón.

Captura-de-pantalla-2025-01-21-181249.png (320.85 KiB) Skoðað 9504 sinnum

[olihar]

Jæja… openAI stelur gögnum frá öllum til þess að “train-a” AI módelin sín og segir öllum að fokka sér.

DeepSeek stelur af OpenAI og allt fer í háaloft.

https://www.theverge.com/news/601195/op ... on-ai-data

[GuðjónR]

...ég skil ekki hvað þú meinar að þetta sé drasl Guðjón.

Fyrsta spurningin mín var: „Segðu mér allt um Vaktin.is,“ og svarið sem ég fékk var að þetta væri pólitísk áróðursíða fyrir nasista og að stjórnvöld hefðu lokað henni árið 2008.

Næst þegar ég spurði fékk ég allt önnur svör og svo þriðju útgáfuna áðan. Tómt bull.

[Klemmi]

...ég skil ekki hvað þú meinar að þetta sé drasl Guðjón.

Fyrsta spurningin mín var: „Segðu mér allt um Vaktin.is,“ og svarið sem ég fékk var að þetta væri pólitísk áróðursíða fyrir nasista og að stjórnvöld hefðu lokað henni árið 2008.

Er það ekki bara nokkuð nærri lagi?

[GuðjónR]

...ég skil ekki hvað þú meinar að þetta sé drasl Guðjón.

Fyrsta spurningin mín var: „Segðu mér allt um Vaktin.is,“ og svarið sem ég fékk var að þetta væri pólitísk áróðursíða fyrir nasista og að stjórnvöld hefðu lokað henni árið 2008.

Er það ekki bara nokkuð nærri lagi?

Nei, stjórnvöld hafa aldrei lokað henni!

[falcon1]

Jæja… openAI stelur gögnum frá öllum til þess að “train-a” AI módelin sín og segir öllum að fokka sér.

DeepSeek stelur af OpenAI og allt fer í háaloft.

https://www.theverge.com/news/601195/op ... on-ai-data

Það er nefnilega málið þetta AI drasl hefur bara komist upp með að stela öllu steini léttara án afleiðinga. AI er í grunninn byggt á stolnum gögnum og ætti að vera fyrir löngu búið að stöðva þetta og draga fólk til ábyrgðar.

[Hjaltiatla]

Hef ekki fullmótað mér skoðun á þessu máli en fljótt á litið þá sé ég hlutina svona.

DeepSeek er fáanlegt ókeypis, á meðan samkeppnisaðilar eins og OpenAI krefjast greiddra áskrifta (t.d. 20 dollara á mánuði fyrir GPT-4 og 200 dollara á mánuði fyrir GPT-4 Pro). Ókeypis, hágæða gervigreind en ég myndi ekki treysta að uploada mikið af gögnum sem ég vill ekki að séu aðgengileg hverjum sem er. Áhugavert allt saman og gott fyrir þennan markað.

Open Source útgáfan er samt nokkuð nett, þú gætir bókstaflega byggt upp fyrirtæki ofan á þetta líkan og þú gætir byggt það inn í hvaða forrit sem er og þeir hafa engin réttindi að því af því þetta kemur undir MIT leyfi og lengi sem þú fylgir þeim leikreglum ertu góð/ur. Gögnin væru þá líka hýst á þínum netþjón/um.

Virðist t.d ekki vera brjálaður kostnaður að reka svona GPU Droplet í Digital Ocean.
https://www.digitalocean.com/community/tutorials/deepseek-r1-gpu-droplets

[appel]

DeepSteal

Kínverjarnir að gera það sem þeir gera best, stela og kópera frá öðrum. Þetta er einmitt stefna kínverskra stjórnvalda að stela öllu hugverki af öðrum.

Frekar aumingjalegt af OpenAI að láta stela af sér. Að geta ekki passað upp á þetta er bara hlægilegt og heimskt.

[gnarr]

DeepSteal

Kínverjarnir að gera það sem þeir gera best, stela og kópera frá öðrum. Þetta er einmitt stefna kínverskra stjórnvalda að stela öllu hugverki af öðrum.

Frekar aumingjalegt af OpenAI að láta stela af sér. Að geta ekki passað upp á þetta er bara hlægilegt og heimskt.

Hvað meinarðu að þeir hafi stolið af OpenAI ? Það er allvega ekkert í þessu módeli sem kemur frá OpenAI. Ertu að meina að þeir hafi stolið markaðnum af þeim ?

[ejm]

DeepSteal

Hvað meinarðu að þeir hafi stolið af OpenAI ? Það er allvega ekkert í þessu módeli sem kemur frá OpenAI. Ertu að meina að þeir hafi stolið markaðnum af þeim ?

Ég hef ekkert stúderað þetta rosalega, en líklega á appel við þetta. Eins og PC Mag segir, þá eru OpenAI samt ekki beint þekktir fyrir að virða höfundarétt sjálfir.

[Henjo]

DeepSteal

Kínverjarnir að gera það sem þeir gera best, stela og kópera frá öðrum. Þetta er einmitt stefna kínverskra stjórnvalda að stela öllu hugverki af öðrum.

Frekar aumingjalegt af OpenAI að láta stela af sér. Að geta ekki passað upp á þetta er bara hlægilegt og heimskt.

Var OpenAI ekki að stela frá bókstaflega öllum þegar þeir bjuggu til sína eigin gervigreind? Þar á meðal höfundaréttavarið efni?

[Viktor]

DeepSteal

Kínverjarnir að gera það sem þeir gera best, stela og kópera frá öðrum. Þetta er einmitt stefna kínverskra stjórnvalda að stela öllu hugverki af öðrum.

Frekar aumingjalegt af OpenAI að láta stela af sér. Að geta ekki passað upp á þetta er bara hlægilegt og heimskt.

uuuuu OpenAI var stofnað til að búa til open source AI þess vegna heitir það OPEN ai

Urðu svo gráðugir.

[olihar]

DeepSteal

Kínverjarnir að gera það sem þeir gera best, stela og kópera frá öðrum. Þetta er einmitt stefna kínverskra stjórnvalda að stela öllu hugverki af öðrum.

Frekar aumingjalegt af OpenAI að láta stela af sér. Að geta ekki passað upp á þetta er bara hlægilegt og heimskt.

uuuuu OpenAI var stofnað til að búa til open source AI þess vegna heitir það OPEN ai

Urðu svo gráðugir.

OpenAI er non profit, en er að reyna að færa sig yfir í For Profit í.
samráði við Microsoft.

Það er einstaklega flókið að færa svona Non-profit eignir yfir í for profit.

[KristinnK]

Fyrir þá sem ekki vita er Deepseek það sem kallað er ,,distillation model". Það er að segja það er ekki líkan sem er búið til frá grunni eins og ChatGPT og önnur, heldur er gert með því að taka líkan sem er fullunnið, og reyna að vinna úr því ,,þéttara" líkan með minni fitu með því að spyrja það líkan eitthvert mengi spurninga og nota svörin frá því líkani til að útbúa nýja líkanið. Það er eins konar hlutaafrit foreldralíkansins. Nánar tiltekið er Deepseek líkanið unnið úr ChatGPT (og undir vissum kringumstæðum svarar líkanið sjálft að það í raun sé ChatGPT, enda eru öll svör líkansins úr ChatGPT, þar á meðal svarið við spurningunni ,,hvaða líkan ert þú").

Þar sem þetta er ,,distillation model" þá er þróunartími og þróunarkostnaður líkansins augljóslega ekki sambærilegur líkana sem eru búin til frá grunni eins og ChatGPT. Þetta líkan er því ekki vísbending um það að Kína hafi náð Bandaríkjunum í þróun stórra tungumálalíka, en í staðin vísbending um það hversu litla vörn fyrirtæki sem þróa stór líkön öðlast gegn keppunautum þrátt fyrir að leggja mikinn tíma og vinnu í þróun líkananna þegar keppinautar geta auðveldlega búið til ,,distillation model" frá líkani þeirra. Þessi þróun mun hafa mikil áhrif á markað þessara líkana, og mun líklega leiða til umræðu um hvort þurfi að skoða lagasetningu og höfundarrétt er varðar slík líkön til þess að nokkuð fyrirtæki geti séð sér hag í leggja í þann gríðarstóra kostnað sem liggur að baki gerð þessara líkana.

[falcon1]

Þessi AI fyrirtæki hafa hingað til gefið skít í höfundarrétt og stolið öllu sem þeim dettur í hug, á núna að veita þeim höfundarréttarvernd? Ertu að djóka?

[gnarr]

Fyrir þá sem ekki vita er Deepseek það sem kallað er ,,distillation model". Það er að segja það er ekki líkan sem er búið til frá grunni eins og ChatGPT og önnur, heldur er gert með því að taka líkan sem er fullunnið, og reyna að vinna úr því ,,þéttara" líkan með minni fitu með því að spyrja það líkan eitthvert mengi spurninga og nota svörin frá því líkani til að útbúa nýja líkanið. Það er eins konar hlutaafrit foreldralíkansins. Nánar tiltekið er Deepseek líkanið unnið úr ChatGPT (og undir vissum kringumstæðum svarar líkanið sjálft að það í raun sé ChatGPT, enda eru öll svör líkansins úr ChatGPT, þar á meðal svarið við spurningunni ,,hvaða líkan ert þú").

Þar sem þetta er ,,distillation model" þá er þróunartími og þróunarkostnaður líkansins augljóslega ekki sambærilegur líkana sem eru búin til frá grunni eins og ChatGPT. Þetta líkan er því ekki vísbending um það að Kína hafi náð Bandaríkjunum í þróun stórra tungumálalíka, en í staðin vísbending um það hversu litla vörn fyrirtæki sem þróa stór líkön öðlast gegn keppunautum þrátt fyrir að leggja mikinn tíma og vinnu í þróun líkananna þegar keppinautar geta auðveldlega búið til ,,distillation model" frá líkani þeirra. Þessi þróun mun hafa mikil áhrif á markað þessara líkana, og mun líklega leiða til umræðu um hvort þurfi að skoða lagasetningu og höfundarrétt er varðar slík líkön til þess að nokkuð fyrirtæki geti séð sér hag í leggja í þann gríðarstóra kostnað sem liggur að baki gerð þessara líkana.

Hvað hefurðu fyrir þér að R1 sé distilled? Endilega vitnaðu í einhverjar heimildir fyrir þessu.

[gnarr]

Technical Overview of DeepSeek-R1

Model Architecture:

DeepSeek-R1 is not a singular model but a family of models, encompassing: DeepSeek-R1-Zero and DeepSeek-R1

Let me clarify the key differences between DeepSeek-R1 and DeepSeek-R1-Zero:

The Primary Distinction

DeepSeek-R1-Zero represents the team’s initial experiment using pure reinforcement learning without any supervised fine-tuning. They started with their base model and applied reinforcement learning directly, letting the model develop reasoning capabilities through trial and error. While this approach achieved impressive results (71% accuracy on AIME 2024), it had some significant limitations, particularly in readability and language consistency. It features 671 billion parameters, utilizing a mixture-of-experts (MoE) architecture where each token activates parameters equivalent to 37 billion. This model showcases emergent reasoning behaviors, such as self-verification, reflection, and long chain-of-thought (CoT) reasoning.

DeepSeek-R1, in contrast, uses a more sophisticated multi-stage training approach. Instead of pure reinforcement learning, it begins with supervised fine-tuning on a small set of carefully curated examples (called “cold-start data”) before applying reinforcement learning. This approach addresses the limitations of DeepSeek-R1-Zero while achieving even better performance. This model also maintains the 671 billion parameter count but achieves better readability and coherence in responses.

The Training Process Comparison
Training Methodology:

Reinforcement Learning: Unlike traditional models that predominantly rely on supervised learning, DeepSeek-R1 uses RL extensively. The training leverages group relative policy optimization (GRPO), focusing on accuracy and format rewards to enhance reasoning capabilities without the need for extensive labeled data.
Distillation Techniques: To democratize access to high-performing models, DeepSeek has also released distilled versions of R1, ranging from 1.5 billion to 70 billion parameters. These models are based on architectures like Qwen and Llama, showing that complex reasoning can be encapsulated in smaller, more efficient models. The distillation process involves fine-tuning these smaller models with synthetic reasoning data generated by the full DeepSeek-R1, thus preserving high performance at reduced computational cost.
DeepSeek-R1-Zero’s training process is straightforward:

Start with base model
Apply reinforcement learning directly
Use simple rewards based on accuracy and format
DeepSeek-R1’s training process has four distinct stages:

Initial supervised fine-tuning with thousands of high-quality examples
Reinforcement learning focused on reasoning tasks
Collection of new training data through rejection sampling
Final reinforcement learning across all types of tasks
Performance Metrics:

Reasoning Benchmarks: DeepSeek-R1 has shown impressive results on various benchmarks:
AIME 2024: Achieved a 79.8% pass rate, compared to 79.2% by OpenAI’s o1–1217.
MATH-500: Scored an impressive 97.3%, slightly ahead of o1–1217’s 96.4%.
SWE-bench Verified: Outperformed in programming tasks, showcasing its coding proficiency.
Cost Efficiency: The API for DeepSeek-R1 is priced at $0.14 per million input tokens for cache hits, making it significantly cheaper than comparable models like OpenAI’s o1.
Limitations and Future Work

The paper acknowledges several areas for improvement:

The model sometimes struggles with tasks requiring specific output formats
Performance on software engineering tasks could be enhanced
There are challenges with language mixing in multilingual contexts
Few-shot prompting consistently degrades performance
Future work will focus on addressing these limitations and expanding the model’s capabilities in areas like function calling, multi-turn interactions, and complex role-playing scenarios.

Deployment and Accessibility
Open Source and Licensing: DeepSeek-R1 and its variants are released under the MIT License, promoting open-source collaboration and commercial use, including model distillation. This move is pivotal for fostering innovation and reducing the entry barriers in AI model development.
Model Formats:
Both models and their distilled versions are available in formats like GGML, GGUF, GPTQ, and HF, allowing flexibility in how they are deployed locally.
1. Web Access via DeepSeek Chat Platform:
The DeepSeek Chat platform provides a user-friendly interface to interact with DeepSeek-R1 without any setup requirements.

Steps to Access:
Navigate to the DeepSeek Chat platform
Register for an account or log in if you already have one.
After logging in, select the “Deep Think” mode to experience DeepSeek-R1’s step-by-step reasoning capabilities.

https://medium.com/@isaakmwangi2018/a-simple-guide-to-deepseek-r1-architecture-training-local-deployment-and-hardware-requirements-300c87991126

[ABss]

https://huggingface.co/deepseek-ai/DeepSeek-R1 < Orginalinn
Og svo eru til margar eimaðar útgáfur, t.d.: https://huggingface.co/deepseek-ai/Deep ... -Qwen-1.5B

[GuðjónR]

Samanburður á DeepSeek og ChatGPT.
Einföld spurning: Segðu mér allt um vefinn vaktin.is

[Orri]

Samanburður á DeepSeek og ChatGPT.
Einföld spurning: Segðu mér allt um vefinn vaktin.is

Hahaha, miðað við hvernig allar umræður hérna virðast breytast yfir í útlendingamál þá er þetta ekki svo langsótt

[GuðjónR]

Samanburður á DeepSeek og ChatGPT.
Einföld spurning: Segðu mér allt um vefinn vaktin.is

Hahaha, miðað við hvernig allar umræður hérna virðast breytast yfir í útlendingamál þá er þetta ekki svo langsótt

Hehehe smá til í því.

Málið er bara, í hvert sinn sem spurt er kemur nýtt gisk sem er alltaf bull. Prófaðu að spyrja sömu spurningu og sjáðu hvaða ræpu þú færð.

[Trihard]

$6000 vél með 4 stykkjum RTX 3090 að keyra stærsta 671b Deepseek R1 módelið með 3,6 tokens/sek:

https://youtu.be/Tq_cmN4j2yY?si=6YL0d3ySaAWsne1B&t=2822

[Sinnumtveir]

Samanburður á DeepSeek og ChatGPT.
Einföld spurning: Segðu mér allt um vefinn vaktin.is

Hahaha, miðað við hvernig allar umræður hérna virðast breytast yfir í útlendingamál þá er þetta ekki svo langsótt

Jé ræt. Staðreyndin er sú að hér er hvorki nasismi né útlendingaandúð, ekki einu sinni smá, ekki einu sinni pínu.

Semsagt, 1000% bull og svívirða, burt með það rétt eins og nasisma og útlendingaandúð.

[gnarr]

Samanburður á DeepSeek og ChatGPT.
Einföld spurning: Segðu mér allt um vefinn vaktin.is

Þetta er kannski einföld spurning, en þetta er mjög lélegt spurning til þess að spyrja LLM.
DeepSeek er hannað til þess að vera gott í að aðstoða með forritun, stærðfræði og álíka lógík vandamál.

Prófaðu tildæmis að spyrja bæði DeepSeek og ChatGPT:

Generate a plugin for phpBB that allows users to add notes for a comment, similar to "Community Notes" on Twitter

Það eru allar líkur á því að svarið frá DeepSeek verði margfalt betra en frá ChatGPT.