ยินดีต้อนรับคุณ, บุคคลทั่วไป กรุณา เข้าสู่ระบบ หรือ ลงทะเบียน

เข้าสู่ระบบด้วยชื่อผู้ใช้ รหัสผ่าน และระยะเวลาในเซสชั่น

ThaiSEOBoard.comพัฒนาเว็บไซต์Programmingขอคำแนะนำเรื่องการเก็บข้อมูลเยอะๆ --> เก็บเป็นหลายๆไฟล์, MySQL, SQLite
หน้า: [1]   ลงล่าง
พิมพ์
ผู้เขียน หัวข้อ: ขอคำแนะนำเรื่องการเก็บข้อมูลเยอะๆ --> เก็บเป็นหลายๆไฟล์, MySQL, SQLite  (อ่าน 4652 ครั้ง)
0 สมาชิก และ 1 บุคคลทั่วไป กำลังดูหัวข้อนี้
nuvatchai
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 76
ออฟไลน์ ออฟไลน์

กระทู้: 1,023



ดูรายละเอียด
« เมื่อ: 20 ธันวาคม 2013, 21:23:56 »

- เก็บเป็นหลายๆไฟล์
- MySQL
- SQLite

ระยะยาวใช้อะไรดีครับ ข้อมูลไม่ได้สำคัญอะไรแต่เก็บเยอะมากๆ 1 Record ประมาณ 7-8Kb ครับ รวมๆ แล้วอยากเก็บประมาณซัก 400-500Mm ต่อตาราง แต่ 1 ฐานข้อมูลก็มีแค่ตารางเดียวที่เก็บเยอะครับ

ตอนนี้ใช้ MySQL รู้สึกไม่ประทับใจเท่าไรครับอืดๆ อาจเป็นเพราะมีหลายฐานข้อมูลด้วยครับ

ตอนนี้คิดไว้คือ
- SQLite  --> กลัวมีปัญหาอืดๆ แบบ MySQL แต่จะง่ายเวลา backup เพราะเก็บไว้ในไฟล์เดียว
- เก็บเป็นหลายๆไฟล์ --> น่าจะมีปัญหาใช้ เวลา backup นานเพราะมีหลายไฟล์ แต่พอรับได้ครับ

ตอนนี้ใช้ MySQL ต้องใช้ server แรงๆ หน่อยหมดรายเดือนเยอะครับก็เลยอยากแก้ปัญหาตรงนี้ให้จบ
บันทึกการเข้า
siammbk
ก๊วนเสียว
*

พลังน้ำใจ: 38
ออฟไลน์ ออฟไลน์

กระทู้: 237



ดูรายละเอียด เว็บไซต์
« ตอบ #1 เมื่อ: 20 ธันวาคม 2013, 21:27:02 »

ใช้ mysql ก็น่าจะไหวนะคับ

ว่าแต่ข้อมูลอะไรเหรอคับถึงได้ 7-8 KB ต่อ record
บันทึกการเข้า

รับออกแบบเว็บไซต์ ทุกรูปแบบ งานใหญ่ๆ ระบบยากๆ ราคาแรงๆ คุยกันคับ
line : siammbk
tel : 095-675-8614
max30012540
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 196
ออฟไลน์ ออฟไลน์

กระทู้: 1,307



ดูรายละเอียด
« ตอบ #2 เมื่อ: 20 ธันวาคม 2013, 22:01:09 »

MongoDB wanwan023
บันทึกการเข้า
MapTwoZa
ก๊วนเสียว
*

พลังน้ำใจ: 75
ออฟไลน์ ออฟไลน์

กระทู้: 366



ดูรายละเอียด
« ตอบ #3 เมื่อ: 20 ธันวาคม 2013, 23:22:04 »

ถามก่อนว่า ข้อมูลเก่าๆ archive ไปเก็บได้มั๊ยครับ
ซึ่งเมื่อ archive ข้อมูลจะไม่ online ในระบบ นะครับ

ถ้าทำแบบนี้ได้ก็ให้ใช้ rdbms ตัวไหนก็ได้ครับ
ถ้าข้อมูลที่อยากให้ live ในระบบเยอะ ก็ไปใช้ mssql db2 oracle
หรือถ้าตัวฟรี แต่ต้องดีลกับปัญหาที่จะเกิดขึ้นแล้วอาจจะ solve ยากหน่อย ก็ไปใช้ postgreSQL


แต่ถ้าอยากให้ข้อมูลเก่าๆ live ด้วยแล้วอยากให้เก็บได้ไม่จำกัด ต้องไปใช้ nosql ครับ ซึ่งตรงกับจุดดีของมัน
จะใช้ตัวไหนก็เลือกเอาครับ แต่่ละตัวเหมาะกับข้อมูลคนละแบบ
เช่น
แบบ document db ก็ mongodb
แบบ map-reduce ก็ hadoop
หรือแบบ key-value ตัวนี้มีอะไรให้ใช้มั่ง ไม่รู้เหมือนกันครับ
« แก้ไขครั้งสุดท้าย: 20 ธันวาคม 2013, 23:22:28 โดย MapTwoZa » บันทึกการเข้า

Good code quality Developer Cheesy
nagis
ก๊วนเสียว
*

พลังน้ำใจ: 26
ออฟไลน์ ออฟไลน์

กระทู้: 356



ดูรายละเอียด
« ตอบ #4 เมื่อ: 21 ธันวาคม 2013, 02:38:25 »

MongoDB wanwan023

- เก็บเป็นหลายๆไฟล์
- MySQL
- SQLite

ระยะยาวใช้อะไรดีครับ ข้อมูลไม่ได้สำคัญอะไรแต่เก็บเยอะมากๆ 1 Record ประมาณ 7-8Kb ครับ รวมๆ แล้วอยากเก็บประมาณซัก 400-500Mm ต่อตาราง แต่ 1 ฐานข้อมูลก็มีแค่ตารางเดียวที่เก็บเยอะครับ

ตอนนี้ใช้ MySQL รู้สึกไม่ประทับใจเท่าไรครับอืดๆ อาจเป็นเพราะมีหลายฐานข้อมูลด้วยครับ

ตอนนี้คิดไว้คือ
- SQLite  --> กลัวมีปัญหาอืดๆ แบบ MySQL แต่จะง่ายเวลา backup เพราะเก็บไว้ในไฟล์เดียว
- เก็บเป็นหลายๆไฟล์ --> น่าจะมีปัญหาใช้ เวลา backup นานเพราะมีหลายไฟล์ แต่พอรับได้ครับ

ตอนนี้ใช้ MySQL ต้องใช้ server แรงๆ หน่อยหมดรายเดือนเยอะครับก็เลยอยากแก้ปัญหาตรงนี้ให้จบ

mongodb อีกคน
บันทึกการเข้า
smapan
Global Moderator
เจ้าพ่อบอร์ดเสียว
*****

พลังน้ำใจ: 643
ออฟไลน์ ออฟไลน์

กระทู้: 8,272



ดูรายละเอียด เว็บไซต์
« ตอบ #5 เมื่อ: 21 ธันวาคม 2013, 11:30:55 »

จากข้อมูลที่รับมาก็ mongodb อีกคนครับ

...แต่ไม่เคยเขียนเลย  wanwan031
บันทึกการเข้า

จูมล่าโฮส สยามโฮสเว็บ modty.com
รวมที่พัก เช่ารายวัน ที่พักเช่ารายเดือนมากที่สุดแจ่มจริง
***Tel 083-757-1515 ติดปัญหา Joomla ตรงไหนรับปรึกษาฟรี โทรมาเถอะครับ ถ้าตอบได้ช่วยแน่นอน ไม่มีกั้ก. ***
kobkung
Verified Seller
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 103
ออฟไลน์ ออฟไลน์

กระทู้: 1,312



ดูรายละเอียด เว็บไซต์
« ตอบ #6 เมื่อ: 21 ธันวาคม 2013, 17:11:01 »

ข้อมูลน้อย แต่ถ้าจะใช้ db ต่อ ลอง postgres ดู
บันทึกการเข้า

เราเป็นบริษัท รับทำเว็บไซต์ แก้เว็บเดิม เขียน Php+Mysql+jQuery+css+bootstrap  งานตามสั่ง ประสบการณ์ จะ 19 ปี ละจ้า
Smilephp.com รับทำเว็บไซต์บริษัท e-commerce + ระบบชำระเงิน paypal,ธนาคาร  เว็บบริษัท เว็บขายของ ระบบจอง เช่า เขียน PHP ได้ทุกแนว  ช่วงนี้เน้นรับงาน ERP ระบบเอกสารบริษัท ,บัญชี ,  Barcode, Stock , Warehouse , Logistic ติดต่อ 086-364-5262

งดตอบคนทำเว็บนอกลู่นอกทาง ไม่ทำเว็บ WP ปั่นแชร์ เว็บประมูล สคริปปั่นใดๆ ไม่ทำเว็บบอลและพ
prinzekung
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 148
ออฟไลน์ ออฟไลน์

กระทู้: 1,686



ดูรายละเอียด เว็บไซต์
« ตอบ #7 เมื่อ: 21 ธันวาคม 2013, 19:01:24 »

MySQL ก็ไม่น่าอึดนะครับ อยู่ที่การตั้งค่าต่างๆ ประกอบด้วยครับ
ข้อมูลเป็นแสน Record ก็ยังรับไหวสบายๆ อยู่นะครับ
บันทึกการเข้า


เช่าโฮสที่ไหนดี   Email Hosting VPS Cloud Server
█ แจกจุกๆ Affiliates 1,000-2,000 บาท hosting ไม่จำกัด
█ ส่วนลด 500 บาท Code "THAISEO500" Hosting
iLhay
Verified Seller
เจ้าพ่อบอร์ดเสียว
*

พลังน้ำใจ: 411
ออฟไลน์ ออฟไลน์

กระทู้: 4,368



ดูรายละเอียด เว็บไซต์
« ตอบ #8 เมื่อ: 21 ธันวาคม 2013, 19:06:10 »

วิเคราะห์ก่อนมั๊ยฮะว่าช้าเพราะอะไร
บันทึกการเข้า

Wordpress Hosting


Wordpress Hosting เริ่มต้นปีละ 790 บาท NVMe SSD เร็ว 9000MB/s เร็วกว่านี้ไม่มีอีกแล้ว
Cloud Server เริ่มต้นเพียงเดือนละ 159 บาท พร้อมใช้ภายใน 1 นาที ผ่านระบบอัตโนมัติมีทั้ง Linux / Windows / DirectAdmin
สอบถามข้อมูลและแจ้งปัญหา 02-105-4417 ตลอด 24 ชั่วโมง
nuvatchai
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 76
ออฟไลน์ ออฟไลน์

กระทู้: 1,023



ดูรายละเอียด
« ตอบ #9 เมื่อ: 21 ธันวาคม 2013, 21:59:18 »

วิเคราะห์ก่อนมั๊ยฮะว่าช้าเพราะอะไร

มีข้อจำกัดทาง server ด้วยครับ ตอนนี้ผมใช้ Server HDD SATA ธรรมดาด้วย database ของผมรวมๆ แล้วประมาณ 10GB ครับ
ส่วน code ก็มีข้อจำกัดครับคือผมแก้ไม่ได้ ระบบเว็บก็มีข้อจำกัดคือไม่ต้องการ cache ครับ จากที่ลองใช้ mytop ดูก็เห็น performance การทำงานของ mysql แล้วครับ คือมีการเรียกข้อมูลข้ามกันไปมา แต่แก้ code ไม่ได้เพราะโดน encode ไว้ผมก็เลยต้องทำใหม่
« แก้ไขครั้งสุดท้าย: 21 ธันวาคม 2013, 22:05:02 โดย nuvatchai » บันทึกการเข้า
MapTwoZa
ก๊วนเสียว
*

พลังน้ำใจ: 75
ออฟไลน์ ออฟไลน์

กระทู้: 366



ดูรายละเอียด
« ตอบ #10 เมื่อ: 21 ธันวาคม 2013, 22:14:01 »

วิเคราะห์ก่อนมั๊ยฮะว่าช้าเพราะอะไร

มีข้อจำกัดทาง server ด้วยครับ ตอนนี้ผมใช้ Server HDD SATA ธรรมดาด้วย database ของผมรวมๆ แล้วประมาณ 10GB ครับ
ส่วน code ก็มีข้อจำกัดครับคือผมแก้ไม่ได้ ระบบเว็บก็มีข้อจำกัดคือไม่ต้องการ cache ครับ จากที่ลองใช้ mytop ดูก็เห็น performance การทำงานของ mysql แล้วครับ แต่แก้ code ไม่ได้เพราะโดน encode ไว้ผมก็เลยต้องทำใหม่

ดูจากขนาดข้อมูลใช้ rdbms ก็เพียงพอครับ
ดังนั้น ปัญหาของท่านคือ performance ใช่ป่าวครับ
อันดับแรก เบสิคเลยคือ tune up database ก่อนครับ ถ้ายังไม่ work คงต้องพิจารณาเรื่อง database แล้วครับ

mysql นี่เป็นอันรู้กันครับว่าระบบการทำงานของมันมีการ optimized มามากกว่า database ตัวอื่น
ถ้าข้อมูลไม่เยอะนี่ยังไง mysql ก็ทำงานไวสุดครับ

กลับกันถ้าข้อมูลเริ่มจะเยอะ มันก็จะสู้ตัวอื่นไม่ได้
ส่วนเรื่อง database ถ้าข้อมูลมีการ write เยอะ แนะนำว่าอย่าใช้ sqlite ครับ ข้อเสียมันคือ write ช้ากว่าตัวอื่น
(ส่วนตัวผมว่า sqlite + mysql มันเหมาะกับงานเดียวกัน ซึ่งระหว่าง 2 ตัวนี้ ยังไงผมก็เลือก mysql อยู่แล้ว 55+)

ส่วนตัวที่ performance ดีแล้วพอสู้ตัวใหญ่ๆได้ ก็อย่างเช่น postgreSQL (แต่ข้อเสียมัน<สำหรับผม> คือ มันไม่มี toad for postgresql)

หรือไม่ก็ใช้ sql server ก็ได้ครับ
บันทึกการเข้า

Good code quality Developer Cheesy
iLhay
Verified Seller
เจ้าพ่อบอร์ดเสียว
*

พลังน้ำใจ: 411
ออฟไลน์ ออฟไลน์

กระทู้: 4,368



ดูรายละเอียด เว็บไซต์
« ตอบ #11 เมื่อ: 21 ธันวาคม 2013, 22:24:25 »

วิเคราะห์ก่อนมั๊ยฮะว่าช้าเพราะอะไร

มีข้อจำกัดทาง server ด้วยครับ ตอนนี้ผมใช้ Server HDD SATA ธรรมดาด้วย database ของผมรวมๆ แล้วประมาณ 10GB ครับ
ส่วน code ก็มีข้อจำกัดครับคือผมแก้ไม่ได้ ระบบเว็บก็มีข้อจำกัดคือไม่ต้องการ cache ครับ จากที่ลองใช้ mytop ดูก็เห็น performance การทำงานของ mysql แล้วครับ คือมีการเรียกข้อมูลข้ามกันไปมา แต่แก้ code ไม่ได้เพราะโดน encode ไว้ผมก็เลยต้องทำใหม่

เอ้อ ที่ผมบอกเนี่ย อยากให้รู้ว่า มัน "ช้า" ที่อะไร

คุณเปลี่ยน software ไป เสียเวลามากมาย แล้วมันเป็นไปไม่ได้ที่เปลี่ยน engine ที่กระโดดแบบนี้แล้วจะไม่รื้อ code ใหม่ ..

ที่ผมต้องย้ำคือ มันมีปัญหา หรือไป ติดลิมิต ที่อะไรครับ

ถ้าทั้งหมดทั้งมวล มันไปติดที่ disk คุณก็สลับไป ssd ครับ .. จะช่วยได้ในระยะสั้นฮะ

อยากที่บอกครับ คุณต้อง list มาครับว่ามันไปติดที่ไหน แล้วก็มันเป็นไปไม่ได้ที่จะไม่รื้อ code

การที่จะ re-design infra พวกนี้ เค้าไม่ทำกันบ่อยๆครับ แล้วการที่จะ design ให้มัน scalable เนี่ย มันไม่ใช่เล่นๆนะครับ ปรับฝ่ายเดียวไม่มีทางได้

ผมย้ำเสมอครับ ก่อนจะปรับปรุงอะไร นึกถึง W ไว้ให้ขึ้นใจครับ What and Why
« แก้ไขครั้งสุดท้าย: 21 ธันวาคม 2013, 22:27:07 โดย iLhay » บันทึกการเข้า

Wordpress Hosting


Wordpress Hosting เริ่มต้นปีละ 790 บาท NVMe SSD เร็ว 9000MB/s เร็วกว่านี้ไม่มีอีกแล้ว
Cloud Server เริ่มต้นเพียงเดือนละ 159 บาท พร้อมใช้ภายใน 1 นาที ผ่านระบบอัตโนมัติมีทั้ง Linux / Windows / DirectAdmin
สอบถามข้อมูลและแจ้งปัญหา 02-105-4417 ตลอด 24 ชั่วโมง
tdelphi
Global Moderator
หัวหน้าแก๊งเสียว
*****

พลังน้ำใจ: 308
ออฟไลน์ ออฟไลน์

กระทู้: 1,601



ดูรายละเอียด เว็บไซต์
« ตอบ #12 เมื่อ: 22 ธันวาคม 2013, 00:56:37 »

ทุก dbms จูนได้หมดนะครับ ขึ้นอยู่กับว่า คุณลงทุนพอหรือเปล่า

ผมยกตัวอย่างว่า มันมีค่าใช้จ่าย (Cost) ในการซื้อ License Software แพงๆ (Oracle, DB2, MSSQL) หรือ Human Cost ในการ convert ระบบใหม่ + MA (พวก NoSQL DBMS)

ในแง่ของการใช้ MySQL บางที cost เหล่านี้ เอามาซื้อ H/W ใหม่ที่แรงขึ้น โดยเฉพาะ IO Read/Write แรงๆ  ตรงนี้ช่วยได้มาก อาจจะจบง่ายกว่า

ตัว MySQL ยังมี Solution ระดับ Advanced ไปถึงการแยก Master/Slave สำหรับแยกการ Write/Read ออกจากกัน หรือขยายไปทำ MySQL Cluster ได้อีก  (แต่แบบนี้ก็มีค่า Human Cost + MA ในการจ้างทำเช่นกัน)

เบื้องต้น ควรจะหาต้นเหตุก่อนว่า สาเหตเกิดจากอะไร เช่น มีการ Locking บ่อยๆ หรือเปล่า ให้ลองปรับจาก MyISAM เป็น INNoDB ดูก่อน

หรือ ยังไม่ได้ทำ Index Optmization  (ดูจาก Slow Log)

สุดท้ายแล้ว จ้างมือเก่งๆ ไปดูปัญหาก่อนครับ ว่าควรจะปรับแนวไหน ให้กระทบ code น้อยที่สุด หรือว่าต้องปรับเปลี่ยนระบบใหม่ 
บันทึกการเข้า

MapTwoZa
ก๊วนเสียว
*

พลังน้ำใจ: 75
ออฟไลน์ ออฟไลน์

กระทู้: 366



ดูรายละเอียด
« ตอบ #13 เมื่อ: 22 ธันวาคม 2013, 02:47:10 »

หรือถ้าอยากใช้ rdbms แบบที่ไม่ต้องทำ index ไม่ต้อง tune up ต่างๆ ก็เตรียมเงินค่า license ไว้ซัก 2 ล้าน กับ server แรงๆ ram เยอะๆ ไว้ซักตัว   wanwan004
บันทึกการเข้า

Good code quality Developer Cheesy
nuvatchai
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 76
ออฟไลน์ ออฟไลน์

กระทู้: 1,023



ดูรายละเอียด
« ตอบ #14 เมื่อ: 22 ธันวาคม 2013, 14:55:03 »

ตอนนี้เปลี่ยนจาก MyISAM เป็น InnoDB แล้วครับ ขอบคุณทุกความเห็นนะครับ แต่ความต้องการของผมตั้งแต่ต้นก็เพื่อต้องการลด Cost ลงจาก (Dedicated server RAM 32GB CPU E3-1240 v3 HDD WD RE 1TB) ลงครับไม่อยากใช้แล้ว อยากไปใช้ Share host มากกว่าไม่ก็ VPS ครับ

ตามที่ท่าน iLhay พูด ผมคงไม่กลับไปรื้อ code ครับเพราะ script ถูก encode ไว้ อีกอย่าง script นั้น มันก็มี feature มากกว่าที่ผมใช้งานจริง ถ้าจะ Optimization โดยที่ Cost เพิ่มขึ้นหรือเท่าเดิม ขอทำใหม่ดีกว่าครับส่วนตัวงานนี้ไม่เหมาะกับ MySQL ครับถึงจะมีข้อดีหลายๆ ด้านนะครับ

ระบบและข้อมูลที่ผมใช้อยู่ไม่ได้สำคัญอะไรนะครับ แค่ต้องการให้มันสะดวก
- เข้าใช้งานได้รวดเร็ว
- สำรองข้อมูลง่าย เช่าถ้าใช่ SQLite ก็ copy ไปได้เลย
- โยกย้ายได้ง่าย เช่นเปลี่ยน Server คือ Copy & Past เลย


ปล. ไม่ใช่ระบบอลังกาลงานสร้าง แค่ต้องการความเห็นว่าอันไหนเหมาะกับงานนี้ และ MySQL ผมคงตัดออกจากงานนี้ครับ (ไม่ชอบเวลา backup ครับต้องเก็บ db ด้วย) แต่ไม่ได้ Anti MySQL นะครับ Smiley
บันทึกการเข้า
icez
Verified Seller
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 296
ออฟไลน์ ออฟไลน์

กระทู้: 2,886



ดูรายละเอียด
« ตอบ #15 เมื่อ: 22 ธันวาคม 2013, 17:28:02 »

ถ้าใช้ mysql แล้วยังช้า อย่าไปใช้ sqlite ครับ เน่าหนักกว่าอีก
บันทึกการเข้า

THZHost SSD Hosting ไทย/สิงคโปร์ พร้อม firewall ป้องกันการยิงเว็บ + scan ไวรัสในเว็บ
goodwide
หัวหน้าแก๊งเสียว
*

พลังน้ำใจ: 66
ออฟไลน์ ออฟไลน์

กระทู้: 1,432



ดูรายละเอียด
« ตอบ #16 เมื่อ: 22 ธันวาคม 2013, 17:40:05 »

 wanwan017
มาเก็บข้อมูล
บันทึกการเข้า
หน้า: [1]   ขึ้นบน
พิมพ์