mastodon.world is one of the many independent Mastodon servers you can use to participate in the fediverse.
Generic Mastodon server for anyone to use.

Server stats:

8.4K
active users

#ondeviceai

0 posts0 participants0 posts today

What happens when AI gets local? In this episode, we break down Google’s Gemma 3N — the powerful new on-device AI model designed to process vision, audio, and context in real time. Explore how Gemma 3N could revolutionize smartphones, wearables, smart homes, and edge computing by bringing smarter, faster, and more private AI directly to your devices.

#Gemma3N #GoogleAI #OnDeviceAI #EdgeComputing #FutureOfAI #AIInnovation #SmartDevices #TechPodcast

podcasts.apple.com/us/podcast/

Gemma 3N Unpacked: Google's Next Leap in On-Device AI That Sees, Hears, and Thinks
Apple PodcastsGemma 3N Unpacked: Google's Next Leap in On-Device AI That Sees, Hears, and ThinksPodcast Episode · TechDaily.ai · 05/27/2025 · 6m
Can I run an #Apple (M3/M4) machine headless to experiment with local #LLMs?

What I want to achieve:
🎙️ Audio transcription
📝 Automatic summarization + minutes of meeting generation
🌐 Ideally with a local web-based GUI

Requirements:
✅ Full use of Apple Silicon performance (M3/M4)
✅ Headless setup
✅ Support for different open-source LLMs

Are there any existing solutions or projects that match this use case?
Any tips or experiences welcome!

#AppleSilicon #OnDeviceAI #LLM #OpenSource #AI #SelfHosted #EdgeAI #PrivateAI
Continued thread
Ich überlege auch andere Hardware zu nutzen – bin eigentlich eher auf #Linux unterwegs.
Aber aktuell hab ich das Gefühl, dass #Apple mit den M-Chips (besonders M3/M4) einfach sehr starke Hardware für genau solche Zwecke liefert – effizient, performant, leise.

Würde mich über Einschätzungen freuen – lohnt sich das Setup, oder lieber gleich was anderes?

#LLM #AppleSilicon #OnDeviceAI #KI #AI
Kann ich einen #Apple-Computer (M3/M4) headless betreiben, um darauf lokal ein paar #LLMs laufen zu lassen?

Ziel:
🎙️ Audio-Transkripte erstellen
📝 Automatische Zusammenfassungen & „Minutes of Meeting“
🌐 Idealerweise via Web-GUI im lokalen Netzwerk erreichbar

Wichtig:
✅ Volle Ausnutzung der Apple-Hardware (M3/M4)
✅ Headless-Betrieb
✅ Unterstützung verschiedener freier LLMs

Gibt es dafür schon eine brauchbare Lösung oder Projekt? Erfahrungen?

#LLM #AppleSilicon #OnDeviceAI #OpenSource #Techfrage #AI #KI