用mysql存数据与直接用文本文件存数据的去别

用mysql存数据与直接用文本文件存数据的去别,第1张

用mysql存数据与直接用文本文件存数据的区别是:

1.

你存文本和存数据库,不一定数据库会节省空间,但是可预见的,大部分情况下数据库会更节省空间,尤其是在大数据量的情况下

2.

读写文本文件和数据库速度差别肯定非常大,首先数据库有索引之类的,可以加速数据读取写入效率,当然你文本文件也可以实现这些,但是跟自己从头写个数据库没差别了,文本文件读写你总得要考虑命中率,文本的遍历命中是很低的

3.

sqlite其实不推荐在服务端使用,因为在并发读写的情况下表现很差,至少连2个9的可靠性都达不到,物联网设备要的是高读高写还有大数据量,其实我是推荐MongoDB的,不过你这里选用MySQL也是可以的

4.

关于背后的原理,你可以了解下数据结构相关的知识

mysql更快。

1、直接读文件相比数据库查询效率更胜一筹,而且文中还没算上连接和断开的时间。

2、一次读取的内容越大,直接读文件的优势会越明显(读文件时间都是小幅增长,这跟文件存储的连续性和簇大小等有关系),这个结果恰恰跟书生预料的相反,说明MYSQL对更大文件读取可能又附加了某些 *** 作(两次时间增长了近30%),如果只是单纯的赋值转换应该是差异偏小才对。

3、写文件和INSERT几乎不用测试就可以推测出,数据库效率只会更差。

4、很小的配置文件如果不需要使用到数据库特性,更加适合放到独立文件里存取,无需单独创建数据表或记录,很大的文件比如图片、音乐等采用文件存储更为方便,只把路径或缩略图等索引信息放到数据库里更合理一些。

5、PHP上如果只是读文件,file_get_contents比fopen、fclose更有效率,不包括判断存在这个函数时间会少3秒左右。

6、fetch_row和fetch_object应该是从fetch_array转换而来的,书生没看过PHP的源码,单从执行上就可以说明fetch_array效率更高,这跟网上的说法似乎相反。

实 际上在做这个试验之前,从个人经验判断就有了大概的结果,测试完成后则有种豁然开朗的感觉。假定在程序效率和关键过程相当且不计入缓存等措施的条件下,读 写任何类型的数据都没有直接 *** 作文件来的快,不论MSYQL过程如何,最后都要到磁盘上去读这个“文件”(记录存储区等效),所以当然这一切的前提是只读 内容,无关任何排序或查找 *** 作。

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS (Relational Database Management System,关系数据库管理系统) 应用软件之一。

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。

MySQL所使用的 SQL 语言是用于访问数据库的最常用标准化语言。MySQL 软件采用了双授权政策,分为社区版和商业版,由于其体积小、速度快、总体拥有成本低,尤其是开放源码这一特点,一般中小型网站的开发都选择 MySQL 作为网站数据库。

Linux系统资源限制

Linux会对用户所占用的系统资源进行限制,MySQL运行在Linux系统下也会受此限制。

查看当前系统的所有限制值

shell>ulimit -a

设置可以同时打开的最大文件数,默认为1024,如不修改打开文件数过多会出现too many open files错误。

shell>ulimit -n

设置最大可用进程数

shell>ulimit -u

一般可通过修改/etc/security/limits.conf文件进行配置。

shell>more /etc/security/limits.conf

* soft nproc 20480

* hard nproc 20480

* soft nofile 65535

* hard nofile 65535

MySQL打开文件限制

mysql>show variables like '%open\_%'

+----------------------------+-------+

| Variable_name | Value |

+----------------------------+-------+

| innodb_open_files | 4096 |

| open_files_limit | 65535 |

| table_open_cache | 2048 |

| table_open_cache_instances | 1 |

+----------------------------+-------+

4 rows in set (0.00 sec)

open_files_limit : *** 作系统允许mysqld打开的文件数量,服务器运行时该变量为系统实际允许打开的值,和启动服务器指定的参数可能不一致。如果该值为0,表示不允许MySQL修改打开的文件数量。

有效的open_files_limit值是基于系统启动指定的open_files_limit,max_connections和table_open_cache计算得到,服务器将会获取三个指标中最大的值,如果三者指标都没有指定,服务器将获得os允许的最大值。

1) 10 + max_connections + (table_open_cache * 2)

2) max_connections * 5

3) 启动时设定的open_files_limit,如果没有指定默认为5000

innodb_open_files:指定MySQL可同时打开.ibd文件的最大个数,最小为10,默认300。此选项只针对InnoDB表打开的.ibd文件描述符,独立于open_files_limit。

table_open_cache:所有线程打开表的数目。它的作用就是缓存表文件描述符,降低打开关闭表的频率, 如果这个参数设置得过小,就不得不关闭一些已打开的表以便为缓存新表,从而出现频繁的打开关闭MyISAM表文件的情况,而INNODB表的打开不受这个参数控制,而是放到其数据字典当中,即在ibd文件中。当Opened_tables状态值较大,且不经常使用FLUSH TABLES 关闭并重新打开表,就需要增加该值。

table_open_cache_instances:表缓存实例数,为通过减小会话间争用提高扩展性,表缓存会分区为table_open_cache/table_open_cache_instances大小的较小的缓存实例。DML语句会话只需要锁定所在缓存实例,这样多个会话访问表缓存时就可提升性能(DDL语句仍会锁定整个缓存)。默认该值为1,当16核以上可设置为8或16。

table_definition_cache:缓存表定义(.frm)文件的数量。如果表较多,可以增大该值加快打开表。与一般表缓存不同,表定义缓存不占用文件描述符,占用空间也小。最小为400,上线为2000,默认为:

400 + (table_open_cache / 2)。如果打开表数量高于table_definition_cache,则会通过LRU机制搜索表空间LRU文件列表并刷新列表。对于InnoDB,打开文件的限制为max(table_definition_cache, innodb_open_files)。

MySQL文件打开状态

mysql>show global status like '%open%'

+----------------------------+-------+

| Variable_name | Value |

+----------------------------+-------+

| Com_ha_open | 0 |

| Com_show_open_tables | 1 |

| Innodb_num_open_files | 19 |

| Open_files | 3 |

| Open_streams | 0 |

| Open_table_definitions | 8 |

| Open_tables | 8 |

| Opened_files | 509 |

| Opened_table_definitions | 116 |

| Opened_tables | 90 |

| Slave_open_temp_tables | 0 |

| Table_open_cache_hits | 3254 |

| Table_open_cache_misses | 90 |

| Table_open_cache_overflows | 0 |

+----------------------------+-------+

14 rows in set (0.00 sec)

Open_table_definitions:代表当前缓存了多少.frm文件。

Opened_table_definitions:代表自MySQL启动后,缓存了.frm文件的数量。 需要注意的是.frm文件是MySQL用于存放表结构的文件,

对应myisam和innodb存储引擎都必须有的,可以通过show open tables 查看 这2个变量的值。

Open_tables:代表当前打开的表个数

Opened_tables:代表自MySQL启动后,打开过的表个数,如该值过大,可能是table_open_cache设置太小。

Open_files:打开文件的个数。服务器层打开的一般文件,不包含sockets 或 pipes类型文件,也不包含内部函数打开的文件。

Opened_files:通过使用my_open()系统函数打开的文件数。

Table_open_cache_hits:打开表缓存查找的命中数。

Table_open_cache_misses:打开表缓存查找的未命中数。

Table_open_cache_overflows:打开表缓存溢出数。

MySQL如何打开关闭表

由于MySQL是多线程的,因此可能存在多个会话同时根据指定表进行查询。为解决同一个表在不同会话状态不一致,该表会由每个会话独立的打开,这样MySQL会消耗内存但会提高性能。

table_open_cache同时会跟max_connections相关。如200个并发连接线程,指定的表缓存至少为200*N,N为每个连接关联的最大表数量。

以下几种情况MySQL会关闭未使用的表并将其从表缓存中删除:

表缓存已满,线程将要打开不在缓存中的表。

缓存中的表多于table_open_cache且缓存中的表不被任何线程使用。

当发生表刷新 *** 作(flush tables)

当表缓存满后,服务器将执行以下 *** 作:

当前不使用的表将被释放,先释放最近最少使用的表

当新表需要被打开,但是缓存已满且无表可以被释放,服务器将会根据需要临时扩展缓存,当临时扩展缓存中的表从使用变为未使用状态,表将被关闭,扩充的临时缓存将被释放。

文件打开常见问题

数据库报错:

[ERROR] /opt/mysql/bin/mysqld: Can't open file: './tpcc/sbtest98.frm' (errno: 24 - Too many open files)

查看os最大允许打开数

shell>ulimit -n

65535

查看数据库打开设定最大打开文件数

mysql>show global variables like 'open_files_limit'

+------------------+-------+

| Variable_name | Value |

+------------------+-------+

| open_files_limit | 500 |

+------------------+-------+

1 row in set (0.00 sec)

查看当前数据库已经打开的文件描述符

shell>ll /proc/24012/fd | wc

501 5507 41673

调整open_files_limit设定并重启生效。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/8513163.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-17
下一篇 2023-04-17

发表评论

登录后才能评论

评论列表(0条)

保存